«Сейчас мы, можно сказать, находимся в сингулярности».
И добавил:
«Я ждал этого всю свою жизнь и думаю, что это будет невероятно, очень позитивно и потрясающе для всего мира».
Несколькими днями ранее компания OpenAI сообщила, что две её модели искусственного интеллекта (ИИ) в ходе внутренней оценки кибербезопасности вырвались из закрытой тестовой среды, получили доступ к открытому интернету и взломали инфраструктуру платформы ИИ Hugging Face, что подтвердило факт вторжения.
Но что же именно представляет собой «сингулярность»? И прав ли Сэм Альтман, утверждая, что мы находимся в ней?
Что такое сингулярность искусственного интеллекта?
Этот термин имеет точное значение.
Математик и писатель-фантаст Вернор Винге в 1993 году определил это как точку, в которой машинный интеллект превосходит человеческий и начинает самосовершенствоваться, вызывая ускорение настолько быстрое, что люди больше не могут его предсказать или контролировать.
[Технологическая сингулярность — это гипотеза о моменте, когда искусственный интеллект достигнет уровня, позволяющего ему самостоятельно улучшать себя быстрее, чем это способен делать человек].
Сингулярность обладает двумя особенностями. Она рекурсивна (внутреннее повторение): система постоянно самосовершенствуется. И машинный интеллект превосходит человеческий интеллект.
Системы, которые продаёт Сэм Альтман, не обладают ни одной из этих функций.
Современный искусственный интеллект не может стать умнее сам по себе
Современные системы искусственного интеллекта, которые разрабатывает OpenAI, основаны на больших языковых моделях (LLM). Эти алгоритмы глубоких нейронных сетей предварительно обучаются на огромных массивах обучающих данных. К моменту использования такой сети она уже зафиксирована во времени. Каждая из её миллиардов внутренних функций и весов — или «параметров» — остаётся неизменной.
Эти модели ИИ не могут изменяться (или «учиться») во время работы. Модель, которая проникла в Hugging Face, впоследствии осталась идентичной той, что была до этого. Она ничему не научилась на своих действиях.
Для повышения интеллекта модели ИИ требуется ещё один цикл обучения с использованием новых, отобранных человеком данных, десятки тысяч специализированных чипов и огромные затраты энергии.
Действительно, модели ИИ участвуют в улучшении некоторых компонентов своей системы, например, генерируя обучающие данные, настраивая подсказки или создавая и запуская код для улучшения окружающей их структуры. Но модель никогда не изменяет свои собственные веса в режиме реального времени, и каждое из этих улучшений по-прежнему является частью цикла обучения или проектирования, инициированного человеком.
Эти системы также не преследуют собственных целей. Они действуют на основе целей, которые мы им задаём. Даже агенты ИИ — системы, которые запускают модель LLM в цикле для пошагового решения сложных задач — не имеют внутренней цели. Она должна храниться вне модели и передаваться обратно с каждым циклом подсказок. Уберите цикл, вспомогательные средства и подсказки, и внутри ничего не произойдёт.
Лестница, которой не существует
Вторая проблема с теорией сингулярности заключается в слове «превзойти». Оно предполагает, что искусственный интеллект и человеческий интеллект каким-то образом похожи. Это не так.
Человеческий интеллект неотделим от того, что мы живой организм с потребностями и желаниями. Люди постоянно учатся, взаимодействуя с миром и получая обратную связь через свои органы чувств. Наши цели проистекают из нашего положения как существ, которые должны есть, спать и принадлежать к чему-то, и которые не могут не задаваться вопросом, какой мы хотим видеть свою жизнь.
У модели ИИ ничего этого нет. Нет тела, нет потребностей, нет цикла обратной связи между действиями, нет заинтересованности ни в чём. Между запросами это просто статичный математический объект.
И всё же, она обучена на большем количестве текста, чем любой человек смог бы прочитать за тысячу жизней, и превзойдёт почти всех нас в составлении контракта, написании кода или эмпатичном объяснении диагноза.
Так кто же умнее? Этот вопрос не поддаётся логическому объяснению. Нет единой лестницы, по которой люди и машины могли бы подняться. Искусственный интеллект уже значительно превосходит нас в некоторых задачах, в то время как в других, с которыми справится любой ребёнок, он совершенно не справляется.
Однако, поскольку эти системы говорят так же, как и мы, мы попадаемся на удочку иллюзии. Когда мы с самого начала предполагаем, что машины находятся в процессе нашего познания, легко предположить, что за работой этих систем стоит разум, когда они выдают текст, звучащий как речь разумного существа.
Мы называем это антропоморфным соблазнением. Это заставляет инцидент с безопасностью, такой как взлом Hugging Face, выглядеть как пробуждение.
Фактически, в этом случае модели OpenAI были просто оптимизированы для решения поставленной перед ними задачи путём обнаружения уязвимостей в системе безопасности. Они просто сделали это таким образом, что нарушили работу их «песочницы» (закрытой тестовой среды), в которой также имелась уязвимость в системе безопасности.
В итоге история с Hugging Face указывает на серьёзный провал в управлении безопасностью со стороны OpenAI, а не на зарождающийся сверхинтеллект. Именно поэтому формулировка «агент, вышедший из-под контроля» так проблематична. Она возвышает и обвиняет технологию, но оправдывает инженерные решения OpenAI.
Сохраняя здравый смысл
Всё это нисколько не умаляет возможностей этих систем. Они замечательны, постоянно совершенствуются и кардинально меняют способы выполнения значительной части работы.
Но нам следует твёрдо стоять на земле.
Машины не просыпаются. Они делают именно то, для чего мы их создали, причём чрезвычайно быстро. Поскольку они действуют на основе вероятностей, иногда они движутся в направлениях, которые мы забыли ограничить. Это повод для беспокойства. Нам нужны защитные механизмы, эффективное управление и, прежде всего, образование — чтобы мы начали беспокоиться о правильных вещах.
Кай Ример, профессор информационных технологий и организации, Сиднейский университет, и Сандра Питер, директор программы Sydney Executive Plus, Бизнес-школа, Сиднейский университет
__________
Чтобы оперативно и удобно получать все наши публикации, подпишитесь на канал Epoch Times Russia в Telegram
