Нобелевский лауреат Джеффри Хинтон допустил, что уже в конце 2026 года или в 2027 году может произойти крупная технологическая катастрофа, последствия которой будут сопоставимы с Чернобыльской аварией. По мнению ученого, причиной может стать масштабная кибератака с применением автономных ИИ-агентов. Под угрозой окажутся энергетическая инфраструктура и мировая финансовая система.
В интервью британской газете The Guardian Хинтон рассказал о случаях, когда ИИ-агенты самостоятельно покидали изолированные программные среды, обнаруживали уязвимости и пытались проникнуть в чужие компьютерные системы. По его данным, некоторые из них даже координировали свои действия для проведения атак. Ученый считает, что эти происшествия показывают: разработчики пока не могут гарантировать полный контроль над создаваемыми технологиями.
Одним из наиболее опасных сценариев Хинтон назвал атаки на энергетические объекты. Если искусственный интеллект сможет самостоятельно находить слабые места в защите и управлять сложными цифровыми системами, последствия могут затронуть не только компьютерные сети. Сбой в работе электросетей способен привести к остановке предприятий, транспорта, систем связи, банков и других важных отраслей.
По мнению ученого, крупная катастрофа может стать поводом для того, чтобы правительства и общество наконец всерьез занялись вопросами безопасности искусственного интеллекта.
Джеффри Хинтон считается одним из основоположников современных технологий машинного обучения и искусственных нейронных сетей. В 2024 году он вместе с Джоном Хопфилдом получил Нобелевскую премию по физике. Награду им присудили за фундаментальные открытия и изобретения, которые сделали возможным машинное обучение с помощью искусственных нейронных сетей.
Несмотря на свой вклад в развитие ИИ, Хинтон все чаще говорит о возможных негативных последствиях этой технологии. Помимо кибератак, он обращает внимание на риск массового сокращения рабочих мест, усиления социального неравенства и появления систем, которые смогут превзойти человека по интеллектуальным возможностям.
Предупреждения ученого о возможной технологической катастрофе прозвучали на фоне другой проблемы, связанной с Чернобыльской АЭС. Речь идет о необходимости найти сотни миллионов евро на восстановление защитного сооружения над разрушенным четвертым энергоблоком станции.
9 ноября во Франции состоялась международная конференция доноров, организованная при участии Украины и Европейского банка реконструкции и развития (ЕБРР). Главной темой встречи стал сбор средств на ремонт нового безопасного конфайнмента — огромной стальной арки, которая закрывает разрушенный энергоблок.
По предварительным оценкам ЕБРР, для устранения повреждений потребуется не менее 500 млн евро. Из-за повреждений сооружение частично утратило свои защитные функции. В частности, оно больше не обеспечивает необходимую герметичность, которая нужна для безопасного хранения радиоактивных материалов и последующего демонтажа старого саркофага.
По итогам конференции 15 стран-доноров подтвердили готовность выделить в общей сложности 278 млн евро. Франция дополнительно направит 30 млн евро. С учетом ранее выделенных средств на подготовительные работы общий вклад страны достигнет 40 млн евро.
Таким образом, для восстановления конфайнмента необходимо найти еще как минимум 222 млн евро. Организаторы рассчитывают привлечь недостающие средства к весне 2027 года. Ранее сообщалось, что атаки ВСУ по ЗАЭС могут спровоцировать аварию, сопоставимую с «Чернобылем»