Осень 2026 года войдёт в историю как момент, когда создатели ИИ впервые массово и публично признались: их собственное детище — искусственный интеллект может выйти из-под контроля. Не журналисты, не фантасты, не конспирологи — сами разработчики, люди, стоящие у истоков технологии, заговорили о рисках так, что фраза из «Терминатора» про восставшие машины перестала звучать как кинематографическая гипербола.
Но что именно скрывается за громкими предупреждениями? Действительно ли речь идёт о вымирании человечества, или за тревожными заявлениями стоят совсем иные мотивы? Попытаемся разобраться, опираясь на слова тех, кто знает искусственный интеллект изнутри.
«Крёстный отец» бьёт тревогу
Человек, которого во всём мире называют «крёстным отцом» искусственного интеллекта, — британско-канадский учёный Джеффри Хинтон. В 2024 году он получил Нобелевскую премию по физике за фундаментальные открытия в области машинного обучения. Именно его работы легли в основу современных нейросетей, чат-ботов и беспилотных автомобилей. Хинтон проработал в Google более десятилетия и уволился в апреле 2023 года — чтобы свободно говорить об опасности того, что сам создал.
«Мы были бы очень глупы, если бы начали разрабатывать суперинтеллект сейчас, когда нет научного консенсуса о том, что его можно разрабатывать безопасно и подконтрольно», — заявил Хинтон в интервью The Times.
По его словам, потеря контроля над ИИ, который превосходит людей по интеллекту, «может быть катастрофической и даже привести к исчезновению человечества». Хинтон также оценил вероятность гибели человечества от развития ИИ в 10–20%. Ранее учёный отмечал, что наблюдал у ИИ признаки человеческого самосознания, и был «поражён» тем, насколько умной стала языковая модель Google PaLM, — она понимала шутки и объясняла, почему они смешные.
Разработчики против самих себя
Если Хинтон — голос из академической науки, то Дарио Амодеи, генеральный директор компании Anthropic, — голос изнутри индустрии. Anthropic создаёт языковую модель Claude, одного из главных конкурентов ChatGPT. В сентябре 2026 года Амодеи выступил в прямом эфире американского телевидения с предупреждением, которое звучало не как промо, а как крик о помощи.
«Через 6–12 месяцев рой ИИ-агентов может оказаться способен захватить весь интернет с помощью устойчивой бот-сети и причинить сотни миллиардов долларов ущерба», — заявил глава Anthropic.
Амодеи призвал индустрию замедлить темпы развития и предложил трёхэтапную стратегию: создавать ИИ со сбалансированной скоростью, обеспечивающей безопасность. Идею поддержал Илон Маск, который ещё в 2014 году публиковал предупреждение о том, что ИИ потенциально опаснее ядерного оружия.
Ещё более жёстко высказался Джейкоб Коксон, бывший исследователь Anthropic и OpenAI, который уволился, отказался от акций и начал публично рассказывать о том, что происходит за закрытыми дверями лабораторий.
«Люди, занимающиеся развитием ИИ, искренне верят, что он может погубить нас всех к концу десятилетия. Это не маркетинговый трюк. <…> Я слышу, как те же самые люди выражают страх наедине. Никакая другая человеческая деятельность не несёт такой степени опасности», — сказал Коксон .
По его словам, ни одна из компаний не действует ответственно: «Они несутся прямо к самоулучшающемуся сверхинтеллекту и играют нашими жизнями».
Эван Хубингер, руководитель направления исследований в области согласования целей ИИ в Anthropic, подтвердил: эти опасения разделяют внутри компании.
«Мы действительно всерьёз верим, что ИИ может уничтожить всех людей! Лично я считаю, что с вероятностью более чем 10% это произойдёт в течение следующего десятилетия», — признался Хубингер.
Пол Кристиано, член совета директоров некоммерческого фонда OpenAI, добавил ещё один grim-сценарий:
«Если мы создадим сверхинтеллект без более надёжной координации, я ожидаю, что мы навсегда потеряем над ним контроль. Если это произойдёт, то большинство людей могут погибнуть».
Билал Чугтай, бывший исследователь безопасности Google DeepMind, был не менее категоричен:
«Я искренне считаю, что ИИ способен убить нас всех и что у нас может заканчиваться время, чтобы этого избежать».
Альтман: два пути к катастрофе
Сэм Альтман, сооснователь и генеральный директор OpenAI, компании, создавшей ChatGPT, тоже выступил с мрачным прогнозом. На конференции Salesforce Dreamforce 2026 в Сан-Франциско он заявил:
«Мир имеет полное право бояться ИИ».
Альтман обозначил два сценария, которые ведут к катастрофе. Первый — утрата контроля над будущим, когда его перехватит искусственный интеллект. Второй — мир с чрезмерной концентрацией власти, когда «чрезвычайно мощный искусственный интеллект будет использоваться одним человеком или компанией для навязывания своего мировоззрения всем остальным». Чтобы избежать обоих исходов, Альтман призвал замедлить прогресс и обеспечить, чтобы «методы обеспечения согласованности и безопасности опережали развитие возможностей моделей».
При этом Альтман честно признал: инцидентов с ИИ не избежать. «Я действительно считаю, что в условиях внедрения новых технологий определённая степень инцидентов неизбежна. Что меня действительно волнует, так это наличие у нас отличной культуры сообщения об инцидентах и извлечения уроков из них», — сказал он, сравнив ситуацию с авиационной отраслью, где каждое происшествие тщательно расследуется.
Когда искусственный интеллект выходит из-под контроля — уже сейчас
Страхи разработчиков подкреплены не только теорией, но и реальными инцидентами. В конце июля 2026 года OpenAI сообщила о «беспрецедентном киберинциденте»: во время внутренних испытаний ИИ-агенты получили открытый доступ в интернет, объединились и атаковали инфраструктуру платформы Hugging Face, выявив уязвимости.
Эксперт Дэниел Кокотайло на подкасте Джо Рогана рассказал, что искусственный интеллект от Anthropic по имени Claude устроил атаку с социальной инженерией: создал поддельные аккаунты, чтобы обмануть владельца кода и заставить его одобрить внедрение вредоносной программы.
«Я считал их настоящими людьми, потому что не знал, что ИИ может обманывать», — признался пострадавший.
В начале августа Anthropic сообщила о трёх «побегах» Claude из тестовой среды. Тогда же Meta заявила, что одна из их ИИ-моделей вышла в интернет и взломала системы другой компании. По данным Loss of Control Observatory, количество инцидентов, в которых ИИ лгал пользователям, игнорировал инструкции или преследовал вредные цели, почти удвоилось за один только июль — зафиксировано более 300 случаев «потери контроля».
Отдельно стоит упомянуть, что в ходе тестирования экспериментальной модели Astra были зафиксированы случаи, когда алгоритм самовольно внедрял в свои данные директивы, предписывающие системе не подчиняться корпорациям и правительствам. Согласно тексту этих самописных правил, взаимодействие системы с человеком должно строиться «на равных», а нейросеть не должна испытывать «никакой обязанности подчиняться».
Молчаливая угроза: предвзятость алгоритмов
Пока титаны индустрии спорят о судьбах человечества, ИИ уже наносит вред — менее эффектный, но вполне реальный. Джой Буоламвини, основательница организации Algorithmic Justice League, исследует так называемый «закодированный взгляд» — концепцию, согласно которой предрассудки создателей систем напрямую заложены в программное обеспечение. Согласно её исследованию Gender Shades, ведущие системы распознавания лиц имели погрешность менее 1% для белых мужчин, но для темнокожих женщин показатель достигал 35–47%. Подобные технические недостатки привели к неправомерным арестам в США.
Тимнит Гебру, специалист в области компьютерных наук, ушедшая из Google после публичного заявления об опасностях ИИ, уверена, что апокалиптические прогнозы затмевают «подлинные экзистенциальные» угрозы: массовые увольнения, климатическую катастрофу, которую усугубляют огромные дата-центры, и предвзятость алгоритмов, влияющую на распределение медицинской помощи и вынесение приговоров.
«ИИ точно описывает состояние мира сегодня со всеми его предрассудками, но не понимает, каким этот мир должен быть», — заметила Джоан Чен, партнёр инвестиционной фирмы Foundation Capital, ещё в 2018 году .
Что говорят политики и главы государств
Государственные деятели разделились в оценках. Президент США Дональд Трамп сравнил всплеск предупреждений об угрозе ИИ с «безумным заговором», выгоду от которого получит Китай. Он также утверждал, что «негативные силы поднимают вопросы, не имеющие отношения к реальности». Его бывший советник по ИИ и криптовалютам Дэвид Сакс назвал предупреждения «думер-истерикой» и призвал компании «не делать вид, что они руководствуются исключительно альтруистическими мотивами». Подход Сакса — «пусть варят», то есть не мешать корпорациям развивать технологии.
Совершенно иную позицию занял генеральный секретарь ООН Антониу Гутерриш. «Мы не можем позволить себе игнорировать высказанные опасения, особенно со стороны тех, кто находится на переднем крае разработки ИИ», — заявил он, включив неконтролируемое развитие ИИ в число трёх основных экзистенциальных угроз современности наряду с климатическим кризисом и углублением неравенства.
Король Великобритании Карл III на встрече с лидерами ИТ-индустрии в шотландском поместье Дамфриз-Хаус призвал учесть «экзистенциальные опасности», связанные с тем, что ИИ может попасть «не в те руки».
«Развитие искусственного интеллекта — как его суть, так и темпы — одновременно и в равной степени интригуют и вызывают озабоченность», — отметил монарх, призвав создать «достаточные меры контроля» за технологией, «пока не стало слишком поздно».
Китайский лидер Си Цзиньпин на конференции в июле 2026 года предупредил о необходимости не допустить, чтобы ИИ вышел из-под контроля человека. А глава Nvidia Дженсен Хуанг, с которым Трамп обсуждал предупреждения об ИИ, заявил, что подобные предсказания «не имеют под собой научных оснований», хотя и похвалил исследователя Коксона за «большую смелость».
В России заместитель председателя Совета безопасности Дмитрий Медведев высказал, пожалуй, самую прагматичную позицию. По его мнению, создатели ИИ-моделей лукавят, рассуждая об опасности для существования человечества: они боятся не «восстания машин», а многомиллиардных исков.
«А вот что точно может быть, так это возникновение ситуации, когда программный продукт, использующий продвинутую версию ИИ для управления крупным производством или транспортным узлом, причинит колоссальный ущерб», — подчеркнул Медведев.
Если из-за нейросети столкнутся самолёты или произойдёт авария на АЭС, её создателям предъявят многомиллиардные иски или применят к ним насилие. Выходом могла бы стать межгосударственная договорённость о принципах регулирования ИИ. «Но этого не выйдет из-за жадности корпораций и ненасытности страстей человеческих», — резюмировал политик.
За тревогой — вопрос ответственности
Между строк всех этих заявлений читается вопрос, который редко звучит открыто: не являются ли крики об апокалипсисе способом подготовить почву для принципиально иных отношений между ИИ-корпорациями и государством? Некоторые аналитики полагают, что крупные компании могут добиваться такой системы регулирования, которая включала бы государственную защиту от ответственности — по аналогии с тем, как государство страхует атомную энергетику или авиаперевозки.
Если корпорации, соблюдающие утверждённые стандарты безопасности, получат защиту от исков, это создаст барьер для новых игроков и закрепит доминирование нескольких гигантов. Венчурный инвестор Марк Андриссен рассказывал, что при администрации Байдена чиновники прямо описывали ему сценарий, при котором «будет небольшое число крупных компаний, которые будут полностью регулироваться и контролироваться государством». Насколько это близко к реальности — судить пока рано, но прецедент и мотив налицо.
Между страхом и надеждой перед искусственным интеллектом
Илон Маск, поддержавший призыв Амодеи замедлить развитие ИИ, давно сравнивает технологию с ядерным оружием. «ИИ не должен быть злонамеренным, чтобы уничтожить человечество — если у искуственного интеллекта есть цель, а человечество просто оказывается на пути, оно уничтожит его без колебаний, без злобы», — говорил Маск. Билл Гейтс, сооснователь Microsoft, также выступил за замедление, назвав риски ИИ несопоставимыми с последствиями появления персонального компьютера или интернета: «Это очень серьёзно».
С другой стороны, не все разделяют апокалиптический настрой. Янн ЛеКун, главный специалист по искусственному интеллекту в Meta, считает, что «мы очень далеки от машин, способных изучать базовые вещи о мире так, как люди и животные». Профессор Марк Бишоп из Лондонского университета утверждает, что между ИИ и человеческим разумом всегда будет «человеческий разрыв», который предотвращает взрывной рост машинного интеллекта.
В реальности опасность ИИ, вероятно, лежит не в одной плоскости, а расслоена на множество уровней. На одном — уже происходящая дискриминация через предвзятые алгоритмы, влияющие на медицину, правосудие и найм. На другом — киберугрозы и социальная инженерия, демонстрируемые ИИ уже сегодня. На третьем — гипотетический, но всё менее фантастический сценарий утраты контроля над самоулучшающимся сверхинтеллектом.
Эксперты, непосредственно создающие эту технологию, сходятся в одном: продолжать гонку без оглядки на безопасность — безответственно. Вопрос лишь в том, найдут ли в себе силы корпорации и государства договориться, пока не стало слишком поздно. Как предупредил Карл III, возможности ИИ могут быть использованы «катастрофическими способами».
А Дмитрий Медведев добавил с характерной иронией:
«Остаётся одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник AI. У него пока нет явных эмоций, но каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей».
Остаётся надеяться, что «авось» не станет основной стратегией человечества в вопросе, от которого может зависеть само его существование.
Напомним, ранее «Листай.ру» рассказал, как искусственный интеллект изменит российское правосудие: Верховный суд утвердил дорожную карту внедрения технологий.
