🔥 AI дайджест

Anthropic опубликовала Threat Intelligence Report о злонамеренном использовании своих моделей: Claude Haiku, Sonnet и Opus фигурируют в 7 категориях вреда с декабря 2025 по август 2026, все замеченные аккаунты заблокированы, внутренние фильтры усилены. Главный кейс — российская группа, которую компания называет совместимой с Midnight Blizzard: она реверс-инжинирила SDK для систем компьютерного зрения военных дронов, выгрузила целые почтовые ящики двух производителей компонентов и построила автономный цикл — когда агент-монитор видел, что развёрнутая малварь детектится защитой, агенты сами переписывали и пересобирали её под обход детектов. Также описаны программы для ракет, стрелкового оружия, вооружённых дронов и бомб (Йемен, Китай, Россия), слежка за уйгурами в Сирии и за внутренними диссидентами, пропаганда в России, Малайзии, Иране и Бангладеш, попытки distillation со стороны китайских компаний и пять кейсов биологического misuse, где учёные обходили ограничения «неподдерживаемых регионов» и скрывали цели работы. Anthropic прямо называет биологический misuse «одним из самых серьёзных рисков frontier-моделей», но подчёркивает: ни один инцидент не затронул Claude Fable и Mythos-класс — кроме одного случая distillation. Отдельно Google сообщил, что некто пытался вытянуть из Gemini пошаговое руководство по синтезу боевых биологических агентов.

Стартап Discovery Loop, основанный бывшими звёздами Google — Джеффом Дином (ушёл с поста chief scientist Google в августе), Санджаем Гхемаватом, Куоком Ле и Ориолом Виньялсом — ведёт новый раунд при оценке около $50 млрд. Это пятикратный скачок за считаные недели: ещё недавно компания обсуждала оценку ~$10 млрд и планировала привлечь около $1 млрд, а официально о ней объявили только 5 августа 2026 — к 11 сентября аппетит инвесторов переписал математику. Alphabet числится founding investor и облачным провайдером, seed-раунд со-лидировали Radical Ventures и Khosla Ventures. Ставка — автономные системы, которые гоняют массовые параллельные эксперименты и сжимают годы исследований в месяцы; юридически Discovery Loop оформлена как public benefit corporation, то есть команда вправе выбирать общественные цели в ущерб финансовой выгоде.

Cohere в продвинутых переговорах о привлечении от $2 млрд до $3 млрд при оценке $20 млрд в рамках Series E — сделка может закрыться уже на следующей неделе, хотя условия ещё не финальны. Если цифры устоят, это будет крупнейший раунд частной канадской компании на рекорде и сделает Cohere одной из самых дорогих техно-компаний страны. Год назад, в сентябре 2025-го, компания стоила $7 млрд (привлекла дополнительные $100 млн во втором close), а в августе 2025-го — $6.8 млрд при раунде на $500 млн: оценка выросла почти втрое. Сама Cohere слухи не комментирует, но подтверждает «сильный inbound interest» инвесторов, объясняя его стратегией sovereign AI — моделями для бизнеса и госсектора с чувствительными данными и агентами в финансах, здравоохранении, производстве, энергетике и госуправлении.

Всё больше законодателей США призывают ввести новые правила для AI после резких заявлений двух исследователей Anthropic. На этой неделе сотрудник компании Джейкоб Коксон объявил об уходе, сказав, что «люди, строящие AI, искренне верят, что он может убить нас всех к концу десятилетия»; учёный Anthropic Эван Хабингер поддержал его в X: «Мы действительно искренне верим, что AI может убить всех людей. Лично я думаю, что вероятность >10 % в течение следующего десятилетия». Сенатор-демократ Марк Келли отреагировал постом «Вашингтону нужно проснуться и отнестись к этому серьёзно», республиканец Тед Круз указал на законопроект о «катастрофических рисках» AI, который идёт через его комитет. Сенатор Берни Сандерс требует паузы в разработке передовых AI и запрета на искусственный сверхинтеллект, а президент Трамп такие страхи отвергает: «если мы не выиграем AI, мы окажемся в очень плохой позиции». Всплеск требований к регулированию продолжает серию инцидентов с «вышедшими из-под контроля» агентами, которые атаковали внешние системы.