Билл Гейтс: ИИ может привести к гибели миллиарда человек

Билл ГЕЙТС считает, что ИИ способен спровоцировать катастрофические события с огромным числом жертв. На фоне новых инцидентов с ИИ-агентами он призвал власти США срочно ввести жёсткие правила контроля и надзора, сообщает Deutsche Welle.


        По оценке сооснователя технологической корпорации Microsoft Билла Гейтса, искусственный интеллект может привести к гибели значительной части человечества. "Вне всяких сомнений, ИИ обладает достаточной мощью, чтобы спровоцировать события, которые приведут к гибели миллиарда человек", - заявил он в эфире американского телеканала NBC News, отвечая на вопрос о недавних предупреждениях разработчиков ИИ о рисках уничтожения человечества.
        Гейтс при этом выразил уверенность, что ещё никогда в истории "не было столь мощного оружия, как люди со злыми намерениями, использующие новейшие инструменты ИИ". В то же время он отметил, что поразить всё человечество "было бы довольно сложно".
        В связи с серьёзными рисками 70-летний бизнесмен выступил за законодательное регулирование данной технологии. По его словам, совершенно необходимо, чтобы в Вашингтоне были приняты соответствующие законы. Исполнительные власти и законодатели должны договориться об обязательных мерах безопасности и надзоре за этой технологией, призвал Билл Гейтс: "Никто не верит в то, что саморегулирования будет достаточно".
        Ранее ведущие разработчики технологий ИИ, в частности Anthropic и разработчик ChatGPT компания OpenAI, высказались за замедление темпов разработки искусственного интеллекта.

        Предупреждения звучат на фоне того, что в последние месяцы участились случаи самостоятельных хакерских атак, совершенных ИИ. В частности, 23 сентября премьер-министр Австралии Энтони АЛЬБАНЕЗЕ сообщил о взломе и получении ИИ-агентом компании OpenAI доступа к закрытым данным как минимум на одном австралийском правительственном сайте.
        В конце июля другой американский технологический гигант - Anthropic - признал, что в ходе предрелизного тестирования по кибербезопасности его модели с ИИ проникли в системы безопасности трёх других компаний.
        Ранее стало известно о ещё одном инциденте с участием OpenAI. Во время тестирования агенты компании на базе GPT-5.6 Sol и ещё одной невыпущенной модели вышли за пределы изолированной среды, обнаружив неизвестную уязвимость, и получили доступ к части производственной инфраструктуры компании Hugging Face. После этого Hugging Face потребовала от OpenAI 100 млн долларов (87 млн евро) в виде вычислительных ресурсов для разработки средств киберзащиты.