Недавние заголовки, такие как рекомендация ИИ есть камни и запуск "Мисс ИИ", первого конкурса красоты с участием ИИ-сгенерированных конкурсанток, вновь активизировали важные дискуссии о ответственном развитии и применении технологий ИИ. Рекомендация камней подчеркивает недостатки алгоритмов ИИ, тогда как конкурс отражает стремление человечества к узким стандартам красоты. На фоне постоянных предупреждений о возможных катастрофах, связанных с ИИ — один исследователь ИИ оценил вероятность катастрофы в 70% — эти проблемы становятся все более заметными, но не указывают на изменение текущей траектории.
Явные случаи злоупотребления ИИ, такие как дипфейки, используемые для финансовых мошенничеств или неподобающих изображений людей, показывают потенциальный вред технологий. Однако эти действия тянутся от человеческой злонамеренности, а не автономии ИИ. Также опасения по поводу возможного вытеснения рабочих мест ИИ пока не оправдались.
Риски, связанные с ИИ, включают потенциальное использование технологий в качестве оружия, присущие обществу предвзятости, нарушения конфиденциальности и сложность понимания систем ИИ. Тем не менее, практически нет доказательств того, что ИИ непосредственно угрожает человечеству.
Несмотря на отсутствие свидетельств, 13 нынешних и бывших сотрудников ведущих компаний ИИ недавно опубликовали голословное письмо, выражающее серьезные опасения по поводу рисков технологий, включая угрозы жизни человека. Эти информаторы, работавшие с продвинутыми системами ИИ, повышают кредитоспособность своих опасений. Прошлые предупреждения исследователя ИИ Элизера Юдковского подогрели страхи, что ИИ, как ChatGPT, может развиться до уровня, превышающего человеческий интеллект и потенциально вредящего человечеству.
Тем не менее, как отметил Кейси Ньютон в Platformer, желающие сенсационных откровений в этом письме могут быть разочарованы. Это может быть связано с ограничениями, наложенными работодателями, или отсутствием существенных доказательств, выходящих за рамки спекулятивных нарративов.
С положительной точки зрения, "прикордные" генеративные модели ИИ продолжают совершенствоваться, о чем свидетельствует их успешное выступление на стандартизированных тестах. Однако случаи "перенастройки" — когда модели преуспевают только на обучающих данных — могут завышать эти утверждения, как показал вводящий в заблуждение анализ производительности на Унифицированном барном экзамене.
Несмотря на проблемы, ведущие исследователи ИИ — включая Джеффри Хинтона, часто называемого "крестным отцом ИИ" — считают, что создание искусственного общего интеллекта (AGI) может осуществиться в течение пяти лет. AGI представляет собой систему ИИ, способную сопоставляться или превышать человеческий уровень интеллекта в различных задачах — это точка, на которой могут возникнуть экзистенциальные опасения. Недавний сдвиг в точке зрения Хинтона, который ранее считал AGI далекой реальностью, подчеркивает срочность дебатов.
К этому повествованию добавляется Леопольд Ашенбреннер, бывший исследователь OpenAI, недавно уволенный за предполагаемые утечки, который опубликовал прогнозы о том, что AGI может быть реализован к 2027 году, если постоянный прогресс продолжится.
Хотя некоторые эксперты остаются скептически настроенными в отношении скорого появления AGI, ожидается, что новые модели — такие как GPT-5 от OpenAI и следующие итерации Claude и Gemini — принесут впечатляющие достижения. Однако, если будущее технологического роста замедлится, экзистенциальные страхи могут, в конечном итоге, исчезнуть.
Обеспокоенные эксперты, такие как Гэри Маркус, выражают сомнения по поводу масштабируемости моделей ИИ, указывая на возможные ранние признаки новой "зимы ИИ". Зимы ИИ — это исторические периоды, характеризующиеся снижением интереса и финансирования из-за несбывшихся ожиданий, которые часто следуют за фазами завышенного хайпа вокруг возможностей ИИ.
Недавние отчеты, такие как один от Pitchbook, показывают значительный спад в сделках по генеративному ИИ, упавший на 76% с пика в III квартале 2023 года, поскольку инвесторы пересматривают свои стратегии. Этот спад инвестиций может привести к финансовым трудностям для существующих компаний и тормозить инновации в новых проектах ИИ. Однако крупные компании, занимающиеся разработкой передовых моделей, могут оставаться в некоторой степени защищенными от этих тенденций.
Дальнейшее подтверждение этой нарративы предоставляет Fast Company, подчеркивая отсутствие доказательств, что ИИ генерирует достаточные приросты производительности, чтобы положительно повлиять на доходы компаний или цены акций. Следовательно, угроза новой зимы ИИ может доминировать в обсуждениях в последней половине 2024 года.
Несмотря на эти вызовы, многие эксперты сохраняют оптимизм. Gartner сопоставляет влияние ИИ с революционными изобретениями, такими как печатный станок и электричество, подчеркивая его потенциал изменить общество. Итан Моллик, профессор Уортонской школы бизнеса, выступает за немедленное интегрирование генеративного ИИ в рабочие процессы.
Доказательства возможностей генеративного ИИ продолжают накапливаться; например, сообщается, что системы ИИ на 87% эффективнее убеждают людей во время дебатов по сравнению со среднестатистическими людьми. Кроме того, исследования показывают, что модели ИИ могут превосходить людей в оказании эмоциональной поддержки с помощью техник, таких как когнитивное переосмысление.
Центральный вопрос остается: поможет ли ИИ решить серьезные глобальные проблемы или в конечном итоге приведет к падению человечества? Вероятно, в будущем нас ждут как необыкновенные достижения, так и печальные последствия, связанные с передовым ИИ. Учитывая поляризованную природу технологического прогресса, даже лидеры отрасли выражают противоположные мнения о рисках и преимуществах ИИ.
Лично я оцениваю вероятность апокалипсиса как низкую — примерно 5% — после анализа недавних достижений в области безопасности ИИ. Обнадеживающие успехи организаций, таких как Anthropic, в разъяснении работы крупных языковых моделей (LLMs) могут повысить нашу способность эффективно смягчать риски.
В конечном итоге будущее ИИ стоит на распутье, уравновешивая беспрецедентные возможности и заметные риски. Участие в информированных обсуждениях, обеспечение этичного развития и внедрение активного контроля остаются критически важными для максимизации социальных выгод от ИИ. Хотя существует потенциал для будущего, отмеченного изобилием, также есть риск погружения в дистопию. Ответственное развитие ИИ должно придавать первоочередное значение четким этическим нормам, строгим протоколам безопасности, человеческому контролю и надежным механизмам управления для навигации в этом быстро меняющемся ландшафте.
Рейтинг
