🔥 AI дайджест

OpenAI 21 сентября опубликовала набор предложений по безопасности и защищённости frontier-AI — с акцентом на alignment-исследования и рекурсивное самоулучшение (RSI), и призвала США возглавить международную работу над техническими стандартами, опираясь на уже созданные государственные институты AI-безопасности. Формулировка по RSI — самая жёсткая в документе: «полностью автономное RSI сегодня не происходит, и мы не должны к нему стремиться, пока оно не станет безопасным», иначе, предупреждает компания, «люди могут потерять практический контроль над развитием AI и будут не в состоянии надзирать за исследовательскими процессами, которых больше не понимают». В блоге отдельно упомянут взлом агента Hugging Face — по версии OpenAI, это «превью» рисков, которые без надёжных гарантий и alignment станут заметно опаснее. Шаг зеркальный: неделей ранее свои предложения по безопасной разработке frontier-моделей выложила Anthropic — на фоне волны предупреждений исследователей и ухода Джейкоба Коксона (работал и в Anthropic, и в OpenAI), заявившего, что компании «играют нашими жизнями».

Xiaomi выпустила и открыла веса линейки MiMo-V2.6: флагман MiMo-V2.6-Pro — это MoE на 1,02 трлн параметров при 42 млрд активных, контекст 1 048 576 токенов, до 131 072 токенов вывода и лицензия MIT — веса лежат на Hugging Face, рядом пошли более дешёвая Flash и ускоренная UltraSpeed. В независимом индексе Artificial Analysis Intelligence Index Pro набирает 46 баллов — столько же, сколько закрытый Grok 4.7, при том что одна задача индекса стоит около $0,13 против $3,74 у Grok, то есть почти в 30 раз дешевле (у Claude Opus 5 с его 51 баллом — $5,86 за задачу). API-цены держатся на уровне прошлой линейки: $0,435 за 1M входных и $0,87 за 1M выходных токенов, кэш-ввод — $0,0036. Честная оговорка из замеров: в собственной таблице Xiaomi модель всё ещё уступает Claude Opus 5 в 10 из 14 общих тестов — сильнее всего на ExploitBench, Terminal-Bench 4.0 и ProgramBench, а релиз V2.6-Pro совпал с живой публикацией логов RL-обучения, которые команда выкладывала с 15 сентября.

Фонд Билла и Мелинды Гейтс собрал 60 подписантов — среди них Anthropic, Google, Amazon, OpenAI Foundation, ElevenLabs, AI Singapore, BHASHINI, AI4Bharat и десятки локальных исследовательских и внедренческих организаций, — которые объявили общую пятилетнюю цель: дать пользоваться AI на своём языке и голосом примерно 3,4 млрд человек, чьи языки сейчас плохо представлены в моделях. Проблема в масштабе: из примерно 7 000 языков мира лишь небольшая доля считается достаточно обеспеченной данными, а для «низкоресурсных» языков ошибка — не мелочь: диалект, сленг и культурный контекст меняют смысл там, где точность критична, — в медицине, образовании, сельском хозяйстве, финансах и госуслугах. Работа разбита на четыре направления: открытый языковой слой на свободных лицензиях, честные бенчмарки прогресса, превращение языковых данных в инструменты для любого разработчика и безопасное внедрение с защитой приватности, согласия и цифрового суверенитета данных. Голос выделен отдельно — там, где печатать неудобно или недоступно, естественная речь остаётся основным способом входа.

Amazon начала блокировать покупки, которые совершает за пользователя агент Meta Muse: к вечеру воскресенья, 20 сентября, при попытке оформления заказа всплывало сообщение о том, что «дальнейший доступ неавторизованного AI-агента нарушает Условия использования Amazon, с которыми согласились наши клиенты». Претензия не только конкурентная: Amazon утверждает, что агент скрывает свою личность при навигации по сайту и, судя по всему, собирает и сохраняет учётные данные покупателя — потенциально получая доступ к страницам аккаунта и истории заказов без ведома и согласия Amazon; до блокировки компания просила Meta вынести amazon.com за пределы функциональности Muse, но получила отказ. Meta настаивает, что Muse не видит пароли и платёжные данные, а переданные учётные данные держит в защищённом хранилище, и каждый экземпляр агента работает в изолированной облачной машине. Это как минимум второй такой конфликт: ранее Amazon добилась временного судебного запрета для шопинг-агентов Perplexity — то есть агентный checkout превращается в управляемую точку контроля, а не в открытый интерфейс.