<p>指南者留学全国统一咨询热线：<a href="tel:4001831832" style="color:#1677ff; text-decoration:none;">400-183-1832</a>，全国各地区、各分公司联系方式均为此号码。</p><p>是时候停止人工智能(AI)的发展了吗?如果你悄悄地问过自己这个问题，你并不孤单。</p> <p>&nbsp;</p> <p>在过去的一周里，许多人工智能领域的杰出人士签署了一封公开信，呼吁暂停开发比GPT-4更强大的模型六个月;欧洲研究人员呼吁加强人工智能监管;长期从事人工智能研究和批评的埃利泽&middot;尤德科夫斯基在《时代》杂志上要求彻底停止人工智能的开发。</p> <p>&nbsp;</p> <p>与此同时，该行业没有显示出放缓的迹象。据报道，今年3月，微软(Microsoft)的一名高级人工智能高管谈到，首席执行官萨蒂亚&middot;纳德拉(Satya Nadella)给他施加了&ldquo;非常、非常大的&rdquo;压力，要求他&ldquo;以非常快的速度&rdquo;向公众推出GPT-4和其他新机型。</p> <p>&nbsp;</p> <p>我在谷歌工作到2020年，我离开公司去学习负责任的人工智能开发，现在我在研究人类与人工智能的创造性合作。我对人工智能的潜力感到兴奋，我相信它已经迎来了一个创造的新时代。然而，我认为暂时停止开发更强大的人工智能系统是一个好主意。让我来解释一下原因。</p> <p>&nbsp;</p> <p>GPT-4是什么，信中要求什么?</p> <p><br />美国非营利组织未来生命研究所(Future of Life Institute)发布的公开信向人工智能开发者提出了一个直截了当的要求:</p> <p>&nbsp;</p> <p>我们呼吁所有人工智能实验室立即暂停至少6个月对比GPT-4更强大的人工智能系统的训练。</p> <p>&nbsp;</p> <p>那么GPT-4是什么?与它的前身GPT-3.5(支持流行的ChatGPT聊天机器人)一样，GPT-4是一种被称为&ldquo;大型语言模型&rdquo;的生成式人工智能软件，由OpenAI开发。</p> <p>&nbsp;</p> <p>GPT-4要大得多，训练的数据也多得多。像其他大型语言模型一样，GPT-4的工作原理是根据提示猜测下一个单词，但它仍然具有令人难以置信的能力。</p> <p>&nbsp;</p> <p>在测试中，它通过了法律和医学考试，并且在许多情况下可以比专业人士更好地编写软件。它的全部能力还有待发现。</p> <p>&nbsp;</p> <p><strong><span class="h1">好的，坏的，简单的破坏</span></strong></p> <p><br />GPT-4和类似的模式很可能在社会的许多层面产生巨大影响。</p> <p>&nbsp;</p> <p>从好的方面来看，它们可以提高人类的创造力和科学发现，降低学习的障碍，并被用于个性化的教育工具。不利的一面是，它们可能会促进个性化网络钓鱼攻击，大规模制造虚假信息，并被用来破解控制重要基础设施的计算机系统周围的网络安全。</p> <p>&nbsp;</p> <p>OpenAI自己的研究表明，像GPT-4这样的模型是&ldquo;通用技术&rdquo;，将影响大约80%的美国劳动力。</p> <p>&nbsp;</p> <p><strong><span class="h1">文明的层次和变化的速度</span></strong></p> <p><br />美国作家斯图尔特&bull;布兰德(Stewart Brand)认为，&ldquo;健康的文明&rdquo;需要不同的体系或层次以不同的速度前进:</p> <p>&nbsp;</p> <p>快速层创新;缓慢的层稳定下来。整体将学习与连续性结合起来。</p> <p>&nbsp;</p> <p>根据&ldquo;节奏层&rdquo;模型，健康文明的不同层次以不同的速度发展，从自然的缓慢运动到时尚的快速变化。图片来源:斯图尔特&middot;布兰德/《设计与科学杂志》</p> <p>&nbsp;</p> <p>在布兰德的&ldquo;节奏层&rdquo;模型中，底层的变化要比顶层的慢。</p> <p>&nbsp;</p> <p>科技通常排在最前面，介于时尚和商业之间。监管、经济系统、安全护栏、道德框架和其他方面存在于较慢的治理、基础设施和文化层。</p> <p>&nbsp;</p> <p>现在，技术的发展速度远远超过了我们理解和监管它的能力&mdash;&mdash;如果我们不小心，它也会推动那些底层的变化，而这些变化的速度太快了，危及了安全。</p> <p>&nbsp;</p> <p>美国社会生物学家e&middot;o&middot;威尔逊(E.O. Wilson)这样描述不同变化步伐不匹配的危险:</p> <p>&nbsp;</p> <p>人类真正的问题在于:我们有旧石器时代的情感，中世纪的制度，以及神一般的技术。</p> <p>&nbsp;</p> <p>是否有充分的理由保持当前的快速发展?</p> <p><br />一些人认为，如果顶级人工智能实验室放缓速度，其他不结盟的参与者或中国等国家将超过他们。</p> <p>&nbsp;</p> <p>然而，训练复杂的人工智能系统并不容易。OpenAI领先于它的美国竞争对手(包括谷歌和Meta)，中国和其他国家的开发者也落后了。</p> <p>&nbsp;</p> <p>在可预见的未来，&ldquo;流氓组织&rdquo;或政府不太可能超过GPT-4的能力。大多数人工智能人才、知识和计算基础设施都集中在少数几个顶级实验室。</p> <p>&nbsp;</p> <p>其他对生命未来研究所的信持批评态度的人表示，它依赖于对当前和未来人工智能能力的过度认知。</p> <p>&nbsp;</p> <p>然而，无论你是否相信人工智能将达到一般超级智能的状态，不可否认的是，这项技术将影响人类社会的许多方面。花点时间让我们的系统适应变化的步伐似乎是明智的。</p> <p>&nbsp;</p> <p><strong><span class="h1">放慢脚步是明智的</span></strong></p> <p><br />虽然在具体细节上有很大的分歧空间，但我相信未来生命研究所的信指出了一个明智的方向:掌握技术变革的步伐。</p> <p>&nbsp;</p> <p>尽管我们已经看到了社交媒体造成的破坏，但硅谷仍倾向于遵循Facebook那句臭名昭著的格言:&ldquo;快速行动，打破陈例&rdquo;。</p> <p>&nbsp;</p> <p>我相信一个明智的做法是放慢脚步，思考我们想把这些技术带到哪里，让我们的系统和我们自己进行调整，并参与多样化的、深思熟虑的对话。这不是要停止，而是要以可持续的速度前进。我们可以选择驾驭这项技术，而不是假设它有自己的生命，我们无法控制。</p> <p>&nbsp;</p> <p>经过一番思考，我把自己的名字加入了公开信的签署人名单。生命未来研究所表示，目前这封信的签署人约有5万人。尽管六个月的暂停并不能解决所有问题，但它是有用的:它设定了正确的意图，优先考虑利益和风险，而不是不加批判的、加速的、以利润为动力的进展。</p> <p>&nbsp;</p> <p>谈话</p> <p>&nbsp;</p> <p>Rodolfo Ocampo，悉尼新南威尔士大学人类-人工智能创意合作项目博士生</p> <p>&nbsp;</p> <p>本文基于创作共用许可，从The Conversation重新发布。阅读原文。</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新闻直译，仅供参考，不代表指南者留学态度观点。</p> </blockquote>