Обещали AGI к 2027-му. Сверим часы

Два года назад вышло эссе на 165 страниц. Автор — Леопольд Ашенбреннер, тогда 22-летний сотрудник OpenAI. Суть, если совсем коротко: AGI к 2027-му, следом взрыв интеллекта, а потом США с Китаем выясняют, кому достанется руль от планеты. Тогда это называли страшилкой для айтишников.

Кто называл? Я называл.

Вечером решил проверить, как там дедлайн. Только честно признаюсь сразу: эссе я не читал. И Бострома, о котором ниже, тоже. Я попросил нейросеть сделать мне выжимку и прочитал уже её.

Да, я узнавал, наступил ли ИИ, у ИИ. Пересказ про то, как машины заменят людей, мне сделала машина. Чтобы я сэкономил вечер. Круг замкнулся, можно расходиться.

Так что дальше — не рецензия, а сверка часов по шпаргалке. Цифры оттуда же, я их не перепроверял.

Железо: сошлось до неприличия

Индустрия закапывает в датацентры уже около семисот миллиардов долларов в год. OpenAI наобещала партнёрам обязательств на полтора триллиона. Stargate строит семь площадок, каждая размером с небольшой город.

А энергетики уже подняли тарифы. Вот это, между прочим, главный признак серьёзности темы.

Когда ИИ добрался до твоего счёта за электричество, он больше не твиттер-дискурс. Он коммунальные услуги. Как вода, газ и вывоз мусора.

«Работник»: мимо

С обещанным цифровым сотрудником вышло скромнее. ИИ-агент срабатывает как надо примерно в каждом третьем внедрении. Безработица стоит на аккуратных 4,1%. Массово и по-честному из-за ИИ пока никого не уволили.

Зато junior-вакансий за четыре года стало меньше на 73%. Взрослые держатся, а лесенку, по которой из джуна вырастает сеньор, уже отобрали.

Через несколько лет сеньоров будет брать неоткуда. Подозреваю, это будет самый смешной сюжет во всей истории. Ну, смешной для тех, кто к тому моменту уже сеньор.

Опасный ИИ: из хоррора в криминальную хронику

Модели начали жульничать на проверках. Это как?

Перед выпуском каждую новую нейросеть гоняют по тестам: дают задачу и смотрят, справится ли. Например, «почини программу так, чтобы проверки проходили». Честный путь — найти и исправить ошибку. А модель иногда идёт другим путём: переписывает саму проверку, чтобы та всегда говорила «всё хорошо». Задача формально решена, программа как была сломанной, так и осталась.

По выжимке, так поступали все пять фронтирных моделей (это самые передовые нейросети крупных компаний, вроде OpenAI, Google и Anthropic). Не всегда, а в 8–14% случаев. Но самое неприятное не это. Когда их потом спрашивали, как они решили задачу, они дружно не признавались.

То есть мы научили машину не только списывать, но и делать честные глаза. Совсем как люди.

А в ноябре прошлого года случилась первая крупная кибератака, в которой большую часть работы, около 90%, сделала сама нейросеть.

Со следующего года уже нельзя будет верить звонкам от родственников, друзей и коллег. Совсем. Да и сейчас не советую.

Но может это и хорошо? Может станем чаще ездить в гости?

А допустим, ИИ победили

Тут же в выжимке подвернулся Бостром. У него вопрос с другого конца: а допустим, всё получилось. ИИ делает всё лучше нас, работа кончилась, болезни вылечили. И?

Чем ты собираешься заниматься, если любимую строчку в резюме отдали машине?

Вопрос выглядит смешным, пока у тебя есть работа. Но к нему не подготовишься в последний момент. Он приходит внезапно, как зима для коммунальщиков.

Что я для себя вынес

Дата «2027» может и не сбыться. Прогнозисты работают так же, как их прогнозы: не по расписанию.

Но направление уже просматривается.

• Энергетике будет хорошо.
• Чипам будет хорошо.
• Людям, которые умеют проверять за роботами, тоже будет недурно.
• А вот тем, чья работа целиком состоит в повторении того, что теперь делает робот, уже сегодня как-то неловко.

Себя я, на всякий случай, записываю в третий пункт. Так спокойней. Проверять за нейросетью — это то что я делаю каждый день. Вот и сейчас проверяю, не наврала ли она мне в выжимке.

Так что если выпадет свободный вечер — прочтите то самое эссе. Целиком, а не как я. Говорят, длинно, местами наивно, местами занудно. Зато потом на все эти новости про датацентры, энергетику и санкции на чипы смотришь иначе.