霉霉“不雅照”事件惊动白宫！全球近50亿网民正成为AI内容受害者
作者｜ 史慧芳来源｜ 创头条深度造假（Deepfake）技术的又一名受害者出现了。这几天，一组由AI制作的美国流行歌星泰勒·斯威夫特（Taylor Swift，中文绰号“霉霉”）不雅照在网络上疯传， 引起公众和媒体高度关注。此事也惊动了美国白宫。在白宫记者会上，发言人让-皮埃尔被问及此事时表示：“我们对此类图像流传感到担忧，更确切地说，是虚假图像，这令人担忧。”在AI技术的加持下，大量换脸视频、合成图片被制造出来。很多明星、网红，甚至普通人，都已经成为受害者。或许 是时候设法防御Deepfake了。AI时代，每个人都可能被迫成为“商品”几乎是在一夜之间，X、Facebook等社交平台上充斥着大量泰勒·斯威夫特的虚假“不雅照片”。这些伪造的照片一经发布，迅速引起全网轰动。在发布照片的账户被封之前，这些照片已被观看超千万次。各大平台的删帖行动可能还算及时，在X上，大部分相关内容早已不见踪影。此事也惊动了美国白宫。 在记者会上，白宫发言人让-皮埃尔被问及此事时表示：“我们对此类图像流传感到担忧，更确切地说，是虚假图像，这令人担忧。”泰勒·斯威夫特也宣布，将对传播这些照片的相关网站采取法律行动。对此，有网友热议：“科技也是双刃剑，AI技术如被滥用是很可怕的”“AI看你怎么用了，副作用是显而易见了”“所有AI生成的图片应该加AI的水印”……泰勒·斯威夫特并非最新被牵扯到利用AI技术造假的名人。1月15日，印度的板球传奇人物萨钦·坦杜卡也成为AI深度造假的受害者。国内也发生多起深度造假的案例。近期，因换声换脸变装而起的争议频频发生。有演员遭遇换脸不得不公开打假，有歌手被换声忙不迭澄清谴责。就连政治人物也未能幸免。近日，社交平台上有人以香港特首李家超出席活动的画面，配上人工智能生成的声音，推介所谓高回报投资计划，还称获利可以免税。对此，特区政府严正澄清，有关影片全属伪造，呼吁市民提高警惕。AI时代，任何人都是可以被AI描述和生成的。互联网上路过的普通人也可能“中枪”。好好的一张生活照被“一键脱衣”；被诈骗者遭遇AI换脸诈骗，10分钟被“好友”骗走430万元……类似事件层出不穷。是时候该设法防御Deepfake了随着AI换脸、换声视频在网络流行，以假乱真的视频、图片、声音也日渐泛滥。据2023年7月的互联网状况统计报告显示，近50亿人（48.8亿）活跃在社交媒体上，占世界总人口的 60.6%。美联社的一份报告显示，2023年互联网上出现的Deepfake视频多达14万段，超过了以往的总和。Deep fake这个词是由“deep learning”和“fake”两个词组合而成的。它指的是利用AI技术，通过大量图片或视频数据训练出一个模型，进而生成逼真的虚假内容。这种技术通常用于制作换脸视频，即将一个人的脸替换成另一个人的脸，使得视频看起来非常真实，几乎难以辨认真伪。DeepFake最早可追溯到2016年。在这种技术发展过程中，有些知名案例引起广泛关注。2017年12月，一个名为deepfakes的用户在Reddit网站上发布了一些将名人面孔替换到色情视频中的视频，迅速在网上引起热议。随着Deep fake技术的不断发展，一些电影和纪录片也开始采用这种技术来创造更加逼真的视觉效果。比如，在NFL的纪录片中，已故的奥克兰突袭者队老板艾尔·戴维斯和前NFL总裁皮特·罗泽尔的形象被重新呈现，就是通过Deep fake技术实现的。不过，相比于正当的运用，Deep fake技术被用来制造虚假信息，用于网络欺诈、诽谤和侵犯隐私等不法行为的情况似乎更多。Nature杂志曾在文章中指出，让开发者在AI工具中加入隐形水印机制或许是一种解决这种问题的方案。不过，这种做法可能更多是在事后进行追踪，同时起到一定震慑作用，要想从根源上阻止Deepfake，还需要全人类共同努力……事实上，如今关于生成式AI的立法与监管的讨论也正在全球范围内升温。2023年7月，国家网信办联合多部门发布《生成式人工智能服务管理暂行办法》，提出采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。国外不少国家和地区也出台了相关政策或协议。在2023年的联邦预算中，澳大利亚政府宣布成立“负责任的AI网络”，并为在全国范围内负责任地推广多种AI技术提供约2700万美元的资金。2023年10月，美国总统拜登签署了美国迄今为止最全面的人工智能监管原则。同月，一个由两党参议员组成的小组发布了《杜绝伪造法案》，提出在AI生成的大量复制品出现的背景下保护个人的形象、声音和肖像。欧盟AI监管也达成“里程碑协议”。2023年12月8日，欧盟就监管AI达成一致，并推动制定全球对于AI发展最严格的限制制度。当天，欧盟内部市场专员蒂埃里·布雷顿在X平台上发文，证实这一协议已经达成。他称，这是一个“历史性的协议”。据《日本时报》报道，由于对生成式AI日益担忧，G7领导人5月在广岛召开峰会，同意成立一个工作组，以加强合作，解决与新技术相关的各种问题。图片来源｜网络
本信息由网络用户发布，本站只提供信息展示，内容详情请与官方联系确认。
