2023-04-12 02:17

担心传播不良信息,美政府研究是否监管ChatGPT等AI技术

AIcore 发布在 AIGC
9.3千

美国政府已开始研究是否需要监管ChatGPT。

当地时间4月11日,据《华尔街日报》报道,由于人们越发担心ChatGPT等人工智能技术可能会被用于歧视或传播有害信息,拜登政府已经开始研究是否需要对这类工具进行限制。

美国商务部4月11日就相关的问责措施正式公开征求意见,包括具有潜在风险的新型人工智能模型在发布前是否应该进行核准认证程序。这被视作是迈出对人工智能领域实行潜在监管的第一步。

ChatGPT等人工智能工具可以快速生成类似人类使用的文字、图像与视频等。人工智能实验室OpenAI于2022年11月推出的聊天机器人ChatGPT,在短短两个月内活跃用户达到1亿,成为史上增长最快的消费者应用程序。

“这些工具即便在起步阶段就能做到这些,这真令人惊讶。” 美国商务部下属机构国家电信与信息管理局局长艾伦·戴维森(Alan Davidson)说,“我们知道,我们需要设置一些界限,来确保这些技术被负责任地使用。”

据戴维森介绍,征求意见的期限为60天,这些意见有助于向美国的政策制定者提供有关如何处理人工智能的建议。戴维森补充称,其所在的机构负责就技术政策向美国总统提供建议,而非撰写或执行法规。

目前,科技行业和政府官员已对人工智能技术潜在的危害表示担忧,包括使用该技术犯罪或是传播虚假信息。

美国科罗拉多州民主党参议员Michael Bennet特别关心儿童的安全。上个月,Bennet给几家人工智能公司写信,询问有关公共实验的情况。在那些实验中,聊天机器人向装成年轻人的用户提供了令人不安的建议。

“人工智能到底是能为我们带来极大的好处,还是造成灾难性的后果,人们正针对这个话题进行激烈讨论。” 康涅狄格州民主党参议员Richard Blumenthal在接受采访时表示,“这对国会来说是终极挑战,一个高度复杂、极具技术性的挑战,且事关重大,极为紧迫。”

拜登上周在白宫与一个科学家顾问委员会讨论了这一话题。当有记者问及人工智能技术是否有危险时,拜登表示:“还有待观察,有可能(有危险)。”

据介绍,顾问委员会的成员包括来自微软和谷歌的代表。这两大科技巨头和其他发布人工智能系统的公司表示,他们正不断更新安全界限,比方说通过编程让聊天机器人不回答某些问题。

值得一提的是,当地时间4月10日,据美国数字新闻网站 Axios报道,知情人士透露,著名科技投资人Ron Conway的投资公司SV Angel将于4月12日召集旧金人工智能山AI公司的高层讨论人工智能政策问题,OpenAI、微软、谷歌、苹果、英伟达、Stability AI、Hugging Face、Anthropic等公司的高管与政策代表将出席该会议,讨论如何负责任地开发AI、分享最好的实践案例,并商讨相关的公共政策框架和标准。

就在3月29日,埃隆·马斯克(Elon Musk)等千名业界和学界人士联署公开信,呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的AI系统,暂停至少6个月,以便制定和实施安全协议。

据悉,美国金融部门的监管机构已经对贷款机构如何利用人工智能来承销贷款进行调查,希望防止对少数群体的歧视。此外,美国司法部反垄断部门表示,该部门正在监控人工智能领域的竞争。联邦贸易委员会则警告这些科技公司,它们可能会因对人工智能产品做出虚假的或未经证实的声明而面临法律后果。

本文链接:https://www.aixinzhijie.com/article/6813184
转载请注明文章出处

评论
登录 账号发表你的看法,还没有账号?立即免费 注册
下载
分享
收藏
阅读
评论
点赞
上一篇
下一篇