Сэм Альтман изменил свою позицию по поводу AGI на форуме в Давосе, два месяца спустя послеcontroversy с OpenAI.

Два месяца после своего краткосрочного увольнения и последующего переизбрания советом некоммерческой организации OpenAI, генеральный директор Сэм Альтман значительно смягчил свои взгляды на появление искусственного общего интеллекта (АГИ) на Всемирном экономическом форуме в Давосе, Швейцария. Во время беседы с генеральным директором Microsoft Сатья Наделлой и главным редактором The Economist Занни Минтон Беддос, Альтман отметил: "Я не думаю, что кто-либо из нас больше согласен, что такое АГИ." Он добавил, что после достижения АГИ может возникнуть первоначальная паника, но в конечном итоге "люди вернутся к своим привычным делам." Альтман описал АГИ как "удивительно непрерывный процесс", предполагая постоянные улучшения, а не внезапный прорыв, и указал, что "каждый год мы выпускаем новую модель, которая значительно лучше, чем в предыдущем."

Ранее Альтман высказывал свои мысли на дискуссии, организованной Bloomberg, заявляя, что хотя АГИ может появиться в "разумно близком будущем," его влияние "изменит мир гораздо менее, чем все мы думаем, и в гораздо меньшей степени изменит рабочие места, чем мы предполагаем."

В посте в блоге от февраля 2023 года под названием "Планирование АГИ и за его пределами" Альтман обратил внимание на потенциальные угрозы АГИ, предупреждая, что "неправильно настроенный суперинтеллектуальный АГИ может причинить серьезный вред." Он предостерег, что автократические режимы с суперинтеллектом могут представлять аналогичные угрозы. Тем не менее, он также нарисовал оптимистичную картину, утверждая, что АГИ может значительно продвинуть человечество, повысив экономическое благосостояние и ускорив научные открытия.

Мнения Альтмана об АГИ изменились, и его последние комментарии указывают на смещение от его более тревожного подхода. Ранее он намекал на широкий спектр возможностей ИИ, предполагая, что он вскоре может превзойти человеческий интеллект в убеждении, что приведет к неожиданным сценариям.

Последние замечания Альтмана согласуются с новой структурой совета директоров OpenAI. После его кратковременного увольнения совет претерпел значительные изменения, потеряв членов, которые особенно уделяли внимание рискам АГИ. В новом совете находятся заметные фигуры, такие как бывший министр финансов Ларри Сэммерс и экс-сопредседатель Salesforce Брет Тейлор, наряду с Microsoft, которая теперь занимает место в совете без права голоса.

Во время дискуссий в Давосе Занни Минтон Беддос оспорила Альтмана относительно устава OpenAI, который гласит, что совет определит, когда АГИ будет достигнут, и что коммерциализация после АГИ больше не будет следовать текущим соглашениям. Альтман ответил с легкостью, предложив, что роль совета заключается в пересмотре последствий своих решений по мере изменения обстоятельств.

Наделла подчеркнул необходимость совместных усилий, чтобы гарантировать, что будущее развитие АГИ принесет положительные результаты и снизит непредвиденные последствия. Он отметил, что глобальный интерес к управлению АГИ растет, что говорит о том, что различные заинтересованные стороны, включая правительства и гражданское общество, сыграют ключевые роли в формировании его будущего.

Минтон Беддос вновь выразила беспокойство по поводу потенциальных сюрпризов от совета директоров OpenAI, на что Альтман ответил шутливым замечанием о том, что они извлекут уроки из предыдущего опыта, когда ставки были ниже.

Эти события указывают на то, что обсуждение об АГИ развивается, а ключевые игроки, такие как Альтман и Наделла,Navigát, сложностью его будущего влияния на общество и экономику.