1. 首页 > AI/互联网

AI“教父”退出谷歌警告前方危险 欧盟拟制定《人工智能法案》规范AI发展



近日,被称为人工智能(AI)“教父”的杰弗里·辛顿(Geoffrey Hinton)博士在接受外国媒体采访时证实,他已经辞去了谷歌的工作,谈论他帮助开发的危险技术。

辛顿作为类神经网络领域的先驱,为当前AI的发展奠定了基础。他与另外两位大学教授也因此获得了2018年图灵奖,

辛顿于2013年加入谷歌,此前这家科技巨头斥资4400万美元收购了一家由辛顿和他的两名学生Ilya Sutskever(现任OpenAI首席科学家)和Alex Krishevsky创立的公司。他们的类神经网络系统是ChatGPT和Google Bard创建的基础。

辛顿表示,他对于自己一生所从事的工作感到遗憾。“我可以用正常的借口安慰自己:如果我没有这样做,其他人也会这样做,”辛顿说。他决定离开谷歌,这样他就可以自由地谈论AI的危险,并确保他的警告不会影响谷歌公司。

根据采访,辛顿受到微软将ChatGPT整合到其Bing搜索引擎中的提示,他担心这将推动科技巨头进入潜在的不可阻挡的竞争。这可能会导致假照片、视频和文本泛滥,以至于普通人无法“再分辨什么是真实的”。

但除了错误信息之外,辛顿还对AI代替人工工作甚至编写和运行自己的代码的潜力表示担忧,因为它似乎能够比预期更早地变得比人类更聪明。

辛顿认为,在没有控制的情况下改进AI的公司越多,它就变的越危险。“看看五年前和现在的情况,巨大的区别和所取得的发展速度,简直太可怕了。

需要控制AI发展

辛顿并不是唯一一个对AI快速进化和不受控制的发展表示担忧的人。

3月底,北美2000多名行业专家和高管签署了一封公开信,呼吁暂停六个月GPT-4的系统的训练。

包括DeepMind公司的研究人员,计算机科学家Yoshua Bengio和Elon Musk在内的签名者强调了监管政策的必要性,并警告说“只有当我们确信它们的影响将是积极的并且它们的风险是可控的时,才应该开发强大的AI系统。

在大西洋彼岸,ChatGPT的增长激起了欧盟和国家当局的努力,在不扼杀创新的情况下有效地监管人工智能的发展。

个别成员国正试图监督先进模式的运作。例如,西班牙、法国和意大利已经就数据隐私问题对 ChatGPT展开了调查,后者是第一个在临时禁止该服务后规范其使用的西方国家。

欧盟也正在接近通过预期的人工智能法案,这是世界上第一个由主要监管机构制定的人工智能法律。上周,欧洲议会议员同意将草案推进到下一阶段,称为三方对话,立法者和成员国将制定该法案的最终细节。

欧盟科技监管负责人玛格丽特·维斯塔格(Margrethe Vestager)表示,欧盟今年可能会就该法律达成一致,企业可能已经开始考虑其影响。

“凭借这些具有里程碑意义的规则,欧盟正在带头制定新的全球规范,以确保人工智能是可信的。通过制定标准,我们可以为全球道德技术铺平道路,并确保欧盟在此过程中保持竞争力,“维斯塔格在该法案首次宣布时表示。

除非欧洲和全球的监管努力加快,否则我们可能会重复奥本海默的做法,辛顿现在正在敲响警钟:“当你看到技术上诱人的东西时,你会继续去做,只有在你取得技术成功之后,你才会争论该怎么做。
 

此文为作者或媒体授权发表于本网站,且已标注作者及来源。如需转载,请联系原作者或媒体获取授权。
本网站转载属于第三方信息,并不代表本网站观点及对其真实性负责。如其他媒体、网站或个人擅自转载,请自负相关法律责任。

如对本文内容有异议,请联系:
Email:youth-daily@foxmail.com
QQ:2279581925

联系我们

在线咨询:点击这里给我发消息

微信号: