新闻热点

倒自己米？人工智能专家联署暂停研发更强大AI系统 @ 2023-03-30T04: 返回 新闻热点 关键词：暂停 马斯克 专家 概念：人工智能系统 , 专家联署呼吁暂停训练更强大 特斯拉执行长马斯克（ＥＬＯＮ ＭＵＳＫ）与一群人工智慧（ＡＩ）专家、业界高阶主管，共同发表公开信，呼吁暂停训练比ＧＰＴ-４还强大的ＡＩ系统六个月，理由是有可能危及社会与人类。 公开信题为“暂停巨型ＡＩ实验”，称已有广泛的研究显示，具有与人类竞争智能的ＡＩ系统可能对社会和人类构成深远的风险，“只有当我们确信其影响是积极正面、且风险可控时，才应该开发强大的ＡＩ系统。”公开信呼吁未来至少６个月暂停训练较ＧＰＴ-４更强大的ＡＩ系统，直到此类设计的共享安全规则获独立专家订定、实施和审核。ＧＰＴ-４是ＣＨＡＴＧＰＴ的升级版，由新创公司ＯＰＥＮＡＩ推出。 ＡＩ领域为未来科技发展重点方向之一，但同时也为人类带来潜在危机。近日生命未来研究所（ＦＵＴＵＲＥ ＯＦ ＬＩＦＥ）发布《暂停大型人工智能实验》的公开信，呼吁所有人工智能实验室立即暂停较ＧＰＴ-４更强大的人工智能系统的训练至少６个月，公开信更获千名科技界名人及ＡＩ专家签署。 ＣＥＯ埃隆·马斯克（ＥＬＯＮ ＭＵＳＫ）和一群人工智能专家及行业高管在一封公开信中表示，他们呼吁暂停训练比ＧＰＴ-４更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。 公开信指出，如果不能迅速实施此类暂停，政府应当介入并采取措施。此外，“ＡＩ实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级ＡＩ设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督”。 特斯拉执行长马斯克和一群人工智慧专家以及产业高管，在一封公开信中呼吁，对于比ＧＰＴ-４更强大的ＡＩ系统，暂停六个月的系统培训。 非营利组织“未来生命研究所”（ ＦＵＴＵＲＥ ＯＦ ＬＩＦＥ ＩＮＳＴＩＴＵＴＥ）发布这封获得１０００多人签署的公开信，包括马斯克、苹果共同创始人ＳＴＥＶＥ ＷＯＺＮＩＡＫ、ＳＴＡＢＩＬＩＴＹ ＡＩ执行长ＥＭＡＤ ＭＯＳＴＡＱＵＥ、ＡＬＰＨＡＢＥＴ旗下ＤＥＥＰＭＩＮＤ研究人员，以及ＡＩ领域的重量级人物ＹＯＳＨＵＡ ＢＥＮＧＩＯ和ＳＴＵＡＲＴ ＲＵＳＳＥＬＬ都加入呼吁暂停先进ＡＩ技术的开发，直到完成相关安全协议的制定、实施与审核。 稍早前非营利组织“未来生命研究所”（ＦＵＴＵＲＥ ＯＦ ＬＩＦＥ ＩＮＳＴＩＴＵＴＥ）发布一封联名公开信，包括特斯拉执行长马斯克、苹果共同创始人ＳＴＥＶＥ ＷＯＺＮＩＡＫ在内等上千位专家和产业高层共同呼吁暂停训练比ＯＰＥＮＡＩ新推出的模型ＧＰＴ-４更强大的系统，直到完成相关安全协议的制定、实施与审核。这些专业人士并警告强大的ＡＩ系统可能对社会和人类带来许多风险，“只有当我们确信它们的影响是正面的、风险是可控的时候，才应该去开发强大的ＡＩ系统”。 马斯克、图灵奖得主等千名专家呼吁暂停超强ＡＩ研发，至少６个月 ３月２９日，生命未来研究所（ＦＵＴＵＲＥ ＯＦ ＬＩＦＥ ＩＮＳＴＩＴＵＴＥ）公布一封公开信，呼吁所有ＡＩ实验室立即暂停训练比ＧＰＴ-４更强大的ＡＩ系统至少６个月。辛顿、马库斯和马斯克均签署了这封公开信。 ３月２９日，国外知名非营利机构未来生命研究所发布了一封公开信，呼吁将类似ＧＰＴ-４这样的超强人工智能训练计划暂停六个月。目前，包括马斯克、苹果联合创始人斯蒂夫·沃兹尼亚克在内的１０００多名人工智能专家和行业高管签署了一份公开信，他们呼吁将ＡＩ系统的训练暂停六个月，理由是对社会和人性存在潜在风险。 马斯克等１０００人签署公开信 促立即暂停训练强大ＡＩ