Это не научный прогноз и не рассчитанная вероятность. Гейтс говорит о возможном масштабе последствий, если чрезвычайно мощная технология будет использована для создания катастрофических событий. Опасность может исходить не от ИИ, а от людей, которые получат доступ к усовершенствованной версии искусственного интеллекта.
Представим технологию, которая умеет за секунды анализировать колоссальные массивы информации, писать программы, находить уязвимости в компьютерных системах, создавать убедительный текст и изображения, помогать проводить исследования и постепенно выполнять все более сложные действия самостоятельно. Такой инструмент может оказаться у группы людей, которые хотят причинить массовый вред. Именно это Гейтс считает принципиально новым риском.
Так появляется совершенно другой сценарий конца света: кто-то получает мощный ИИ, который многократно увеличивает возможности самого человека, соответственно последствия выходят за пределы контроля.
Какие угрозы беспокоят Гейтса?
Первое-биологические угрозы
ИИ может значительно снизить порог доступа к сложным научным знаниям. То, что раньше требовало большой команды специалистов, времени и ресурсов, потенциально становится доступнее широкому кругу людей. Это не означает, что любой человек с ChatGPT способен создать биологическое оружие. Но принципиально меняется скорость получения и обработки специализированной информации.
Кибератаки
В ходе атаки на больницы, энергетические системы, банки, транспорт или государственные структуры ИИ способен автоматизировать значительную часть работы, которую раньше выполняли многочисленные специалисты. Гейтс отдельно предупреждал именно о таких атаках на критическую инфраструктуру.
Дезинформация и манипуляции
Это наиболее понятный риск уже сегодня. Если раньше для создания убедительной пропагандистской кампании требовались журналисты, дизайнеры, видеографы, переводчики и огромные бюджеты, то теперь значительную часть работы можно автоматизировать: создать тысячи сообщений на разных языках, генерировать изображения и видео, подстроить аргументы под конкретные группы. Так человек постепенно перестает понимать, кому вообще можно доверять.
Что предлагает Гейтс?
До недавнего времени Гейтс был человеком из лагеря технологического оптимизма, утверждая, что ИИ способен изменить образование, медицину, сельское хозяйство. Теперь он говорит, что ИИ может стать либо величайшим инструментом выравнивания возможностей, либо источником огромной несправедливости. То есть это слишком мощная технология, чтобы оставить правила ее использования самим технологическим компаниям.
Поэтому Гейтс сейчас выступает за участие государства в создании обязательных механизмов безопасности и контроля. Он прямо говорит, что саморегулирования компаний недостаточно.
ИИ постепенно перестает быть просто инструментом, который выполняет конкретную функцию. Чем больше автономности получают системы, тем больше действий они способны выполнять самостоятельно: искать информацию, писать код, взаимодействовать с другими системами, принимать промежуточные решения. Что произойдет, когда система станет способна самостоятельно действовать в реальном мире? Кто будет иметь право ее остановить?
Гейтс, который помог создать современный цифровой мир, теперь предупреждает, что следующая технологическая революция может оказаться слишком мощной; и человечество должно научиться управлять ею до того, как она станет полностью управлять последствиями собственных действий.
При этом сам Гейтс не призывает отказаться от искусственного интеллекта. Напротив, его фонд инвестирует в использование ИИ в здравоохранении, образовании и сельском хозяйстве. Более того, есть мнение, что вся эта шумиха специально создана миллиардером для того, чтобы устранить конкурентов, практически бесплатно раздающих чаты GPT, и постепенно монополизировать ИИ под предлогом того, что якобы у него искусственный интеллект точно будет под контролем.
Так или иначе создается технология, способная многократно увеличить человеческие возможности, в том числе возможности ошибаться, атаковать, обманывать и разрушать. Сможем ли мы контролировать людей, в том числе самого Гейтса, получивших инструмент, который становится значительно умнее и мощнее людей и дадут ли нам вообще возможность такого контроля?
Дзен
Новости
Telegram
