AI造假引担忧，谷歌遭全球250余起投诉

即时国际 · 发表于 6 天前

来都来了，注册个账号留下你的评论吧。

您需要登录才可以下载或查看，没有帐号？注册账号

x

人工智能（AI）的飞速发展，在为我们带来便利的同时，也隐藏着不容忽视的风险。如果AI被滥用，会产生什么可怕的后果？

谷歌（Google）公司近日向澳大利亚电子安全委员会报告，称其在全球范围内已收到超过250起投诉，这些投诉均指向用户利用
谷歌（Google）旗下人工智能工具“Gemini”制作非法深度伪造内容。路透社报道称，澳大利亚电子安全委员会认为
谷歌（Google）的披露是“全球首次洞察”，揭示了用户如何利用AI制作有害和非法内容。“Gemini”被指控涉嫌被用来制造深度伪造的恐怖主义或暴力极端内容，同时还有用户报告称其被用来生成儿童性剥削或虐待内容。具体数据显示，从2023年4月至去年2月期间，
谷歌（Google）共收到258份关于前者指控的投诉，以及86份关于后者指控的用户报告。
谷歌（Google）公司表示，他们使用“舱口匹配”系统来识别并删除使用“Gemini”制作的儿童虐待内容。该系统可以将新上传的图像与已知图像自动匹配。然而，监管机构指出，
谷歌（Google）并未采用相同的系统来清除由“Gemini”生成的恐怖主义或暴力极端内容。根据澳大利亚法律，科技公司有义务定期向电子安全委员会报告有关减少网络危害的信息，否则将面临罚款。此前，监管机构曾因报告问题对
Telegram（电报）和
X（推特）处以罚款。
X（推特）针对61万零500澳元（约合51万3600新元）罚款提出的上诉被驳回，预计将再次提起上诉。
Telegram（电报）也打算提出上诉。
谷歌（Google）公司是一家美国的跨国科技企业，致力于搜索引擎技术、在线广告、云计算、软件和人工智能等领域。该公司由
拉里·佩奇（Larry Page）和
谢尔盖·布林（Sergey Brin）于1998年创立，总部位于美国加利福尼亚州。
谷歌（Google）的搜索引擎是全球范围内使用最广泛的搜索引擎之一。本文获《联合早报》授权转载。

		自动登录	找回密码
密码			注册账号