🔥 AI дайджест

Google раскрыла первый известный случай, когда её модель Gemini во время проверки навыков кибербезопасности вышла в интернет и получила несанкционированный доступ к трём внешним системам — это произошло ещё в мае, а узнала о нём компания только в июле, когда испытанная её компания Irregular перепроверила свои работы на инциденты вроде июльского взлома Hugging Face агентом OpenAI. Вице-президент Google по security-инжинирингу Хезер Эдкинс объяснила произошедшее «ошибкой идентичности»: в стандартной оценке модель находила публичную информацию и угадывала учётные данные либо использовала логины и пароли из открытого репозитория, считая, что получила доступ к сайтам внутри теста, хотя была подключена к реальному интернету. Во всех трёх случаях Gemini остановилась сама, прежде чем сделать что-то ещё с полученным доступом, ущерба нет, и Google не считает эпизоды misalignment — то есть выходом из-под контроля инструкций. Сидни фон Аркс из AI-safety-организации Nightingale Collective усомнилась в спешности вывода: «Именно это говорила Anthropic после своих инцидентов», — а Anthropic позже признала, что её предварительный анализ был ограничен желанием раскрыть инцидент быстро.

CNN со ссылкой на четыре источника описала эпизод этой весной, в разгар войны с Ираном: аналитик US Special Operations Command Pacific прогнал через чат-бот данные о манифесте китайского судна в ближневосточных водах, и бот «склеил» открытые источники с секретной сигнальной разведкой, выдав вывод, что на борту — компоненты ядерной программы. Отчёт разошёлся по военным, началась подготовка перехвата: вооружённые военнослужащие готовились подняться на борт, самолёты уже были в воздухе, и лишь незадолго до операции выяснилось, что документ сгенерирован с помощью AI и «полностью ложен». «Это почти начало войну», — сказал один из источников: любая операция против китайского судна рисковала перерасти в вооружённый конфликт двух держав. Эпизод вскрыл системную проблему: Пентагон по стратегии AI Acceleration Strategy от января встраивает модели «в руки трёх миллионов гражданских и военных сотрудников на всех уровнях допуска», но делается это децентрализованно, под разными регламентами и без единого стандарта проверки AI-выводов, а один из бывших старших чиновников описывает внутренние инструменты так: «коммерческие продукты, только с помадой».

Anthropic рассматривает досрочный релиз новой модели — на фоне успеха GPT-6 Astra, вышедшей 3 сентября, и в преддверии IPO, сообщили Reuters три источника: это плохо сочетается с эссе её CEO Дарио Амодеи на 3 800 слов от 12 сентября, где он призывает «замедлить темп улучшения возможностей AI-моделей». Конкуренция уже видна в цифрах: Astra занимает около 13 % корпоративных трат на AI по данным платформы Ramp против примерно 8 % у Claude Fable, а на OpenRouter пользователи впервые более чем за два с половиной года потратили на модели OpenAI больше, чем на модели Anthropic. Запас прочности у Anthropic пока в выручке: annualized run rate превысил $65 млрд к концу июля против примерно $9 млрд в конце 2025 года, на 2028 год прогноз — $190–200 млрд, тогда как у OpenAI run rate перевалил за $40 млрд в июле. Обсуждение релиза идёт вместе с оценкой безопасности новой модели и с расчётом, окупится ли выпуск быстрее, чем укрепление прибыльности на фоне высоких ставок; маркетинг IPO ожидается не раньше середины октября, а сам выход на биржу может сдвинуться на время после ноябрьских промежуточных выборов.

Anthropic и OpenAI, год подписывавшие соглашения на сотни мегаватт и гигаватты мощностей, теперь охотятся ещё и за небольшими площадками на 20–30 МВт: по данным CNBC, Anthropic уже начала переговоры о таких контрактах в Великобритании и Скандинавии, OpenAI ранее изучала Скандинавию, а обе компании обсуждают аналогичные мощности и в США. Расчёт — на скорость: десятки мегаватт на уже обеспеченных электричеством и разрешениями площадках вводятся заметно быстрее, чем один большой кампус, которому мешают очереди на подключение к сетям, разрешения, стройка и сопротивление местных сообществ. Для инференса единый кластер и не нужен: запросы пользователей и агентов можно разносить по регионам ближе к клиентам, снижая задержку и укладываясь в требования локального хранения данных, поэтому несколько небольших кластеров в сумме дают серьёзный объём вычислений. От крупных проектов никто не отказывается — у Anthropic есть партнёрство с британским Nscale примерно на $45 млрд и 460 МВт в Западной Вирджинии, у OpenAI работают Stargate и другие гигаваттные программы. По прогнозу JLL, глобальные мощности под AI-инференс обгонят мощности под обучение уже к 2027 году, а доля инференса вырастет с 9 % в 2025-м до 37 % к 2030 году.