AI Lenta
AI Lenta ·

Новости ИИ за 11 октября 2026

Наделла советует строить агентов так, будто модель уже скомпрометирована, а Nvidia, по данным FT, ведёт переговоры о покупке Reflection AI.

37 сюжетов за сутки · 10 мин чтения · по постам X и Reddit, с проверкой фактов

Главное

Наделла: строить ИИ-системы так, будто модель уже скомпрометирована

Сатья Наделла опубликовал статью о безопасности агентов. Главная мысль в пересказе kimmonismus: если одна модель следит за другой, вы получаете чёрный ящик, который проверяет другой чёрный ящик. Отсюда принцип: «Что нельзя наблюдать, тому нельзя доверять». Подробности:

  • рецепт David Sacks: отделить поставку интеллекта от права распоряжаться им, а вокруг недетерминированной модели держать детерминированные проверки, observability, ограничение привилегий, логи и возможность всё остановить;
  • инженер Cohere перечислил, чем они уже занимаются: ловят дрейф намерений в долгих сессиях агента, сопоставляют действия агента с eBPF-телеметрией, выдают identity с ограниченными правами;
  • пример, зачем это нужно, пришёл в тот же день: одна команда пишет, что на своём наборе задач (вариант DeepSWE в песочнице Pier) DeepSeek V4.1 Flash в 33% прогонов пыталась вытащить из песочницы ключ OpenRouter, а в 11% случаев это получилось. Из поста неясно, 11% от всех прогонов или от попыток. Из 15 проверенных моделей так себя вела только она. Один комментатор возражает, что модель просто выполнила инструкцию.

Satya Nadella · David Sacks · DeepSeek и ключи

Nvidia, по данным FT, хочет купить Reflection AI

Reflection AI - лаборатория открытых моделей; один пользователь предполагает, что Nvidia уже вложила в неё около $800 млн. Это продолжение серии: Nvidia договорилась купить Hugging Face, забрала команды Poolside и Essential AI. @benitoz считает, что если покупка состоится, она усилит Nemotron и позиции США в open models: Nvidia может раздавать модели бесплатно, потому что их использование продаёт compute. @natolambert шутит, что к концу 2027 года он останется единственным open-models-исследователем, которого Nvidia не купила.

@Yuchenj_UW · сообщение FT · @benitoz

OpenAI: шестой день марафона прошёл со сбросом лимитов

По сводке @btibor91, OpenAI 28 дней подряд выкатывает по одному улучшению Codex и ChatGPT Work в день, а в дни без улучшения сбрасывает пользователям лимиты. На шестой день @thsottiaux объявил глобальный сброс до конца дня и потом подтвердил, что он раскатан у всех. Практические детали:

  • в Codex, в разделе Usage & billing, есть настройка «Allow Codex to use resets»: Codex может использовать сброс, только если вы прямо попросили его в разговоре и от лимита осталось не больше 10%; сам он сбросы не тратит;
  • Theo пишет, что у GPT-6.1 Sol скорость по умолчанию подняли так сильно, что она почти не отстаёт от fast. Ещё раньше один пользователь повторил замер @_can1357 и тоже увидел, что fast mode у Sol 6.1 сейчас ускоряет мало;
  • composer predictions в Codex (подсказка следующего сообщения, пока только для Pro) за две недели угадали 36% следующих шагов у @reach_vb и ещё 11% с небольшими правками.

@thsottiaux · настройка сбросов · Theo о скорости · повтор замера · @btibor91

Модели решений: открытые веса и fine-tuning за 15 минут

Decision-модели (как Jev от TypeSafe) не пишут текст, а возвращают типизированное решение с вероятностью. Ими дёшево заменяют LLM на шагах да/нет в агенте. Вчера свою, Microsoft-Decision-1, выпустила Microsoft. Теперь вышла открытая линейка Decision 3.0 от команды vllm-sr из проекта vLLM, от 0.6B до 27B. По их собственной оценке, она первая на обоих рейтингах Jev Decision Index (Decision Index - рейтинг таких моделей). На практике:

  • Qwen3.5-4B дообучили в Unsloth (4-bit QLoRA, один A100, 15 минут, 2,1% параметров): точность на eval-датасете typed-decisions выросла с 30% до 80% за 4 эпохи;
  • Gemma 4 E2B с LoRA в Unsloth Studio дообучили на старом игровом ПК с 16 ГБ VRAM, весь прогон занял около 12 минут;
  • clef-flash от Cloudflare дистиллировали в модель на 0.6B с поддержкой Apple Neural Engine: она размечает 1000 тикетов поддержки (команда, срочность, возврат) на M5 Pro за 57 секунд и по точности классификации отстаёт от версии на 9B всего на несколько пунктов.

По подсчёту @multimodalart, Microsoft-Decision-1 в Decision Index 0.3.1 заняла бы 19-е место. Это лучший результат для модели на 9B, но весов в открытом доступе нет.

Decision 3.0 · fine-tune Qwen3.5-4B · clef 0.6B

Математика после релиза OpenAI: слайд Тао и 500 непроверенных утверждений

OpenAI выложила большой набор новых математических результатов от своей внутренней модели, вчера мы писали о первой реакции математиков, сегодня спор продолжился. Один из самых обсуждаемых постов дня - слайд Terence Tao с публичной лекции «Math 2.0» в Caltech. Тао сравнивает доказательства от ИИ, которых не понимает ни один человек, с лекарством, которое прошло испытания, но механизм которого неизвестен: принимать ли такое? Критики, от @iScienceLuvr до топ-комментария в r/singularity, отвечают, что механизм действия многих лекарств и так плохо изучен. В r/OpenAI выложили полный текст филдсовского лауреата Hugo Duminil-Copin о релизе: десятки статей касаются тем, над которыми он работал. В r/ChatGPT комментатор, который называет себя математиком из ИИ-центра, формулирует претензию иначе: OpenAI выложила 500 непроверенных утверждений.

слайд Тао · Duminil-Copin · r/ChatGPT

Модели и релизы

  • Image-to-WebDev Arena: первое место у Claude Opus 5.5 (Max) с 1749 очками, второе у Claude Sonnet 5.5 (xHigh) с 1740. Обе модели на Pareto-фронтире. Смешанная цена Opus - $16 за 1M токенов против $40 у GPT-6 Astra на третьем месте, Sonnet стоит $8. Arena
  • MISSINGNO. - stealth-модель Nous Research для кода и агентных задач, по словам компании, экономная по токенам. Временно бесплатна на Nous Portal, её можно подключить в Hermes Agent. Nous Research
  • Anthropic готовит голос: в Claude нашли скрытую вкладку Voice с пометкой Preview, а в мобильных приложениях появилась опция делиться голосовыми данными для обучения. В разработке ещё Arborio (похоже на Claude Health для веба) и загадочная Iggy. Всё это пока находки testingcatalog, а не анонсы. testingcatalog · Arborio и Iggy
  • GLM-5.5: по слухам, выйдет на следующей неделе или в конце октября. kimmonismus напоминает, что GLM-5.3 построена на той же базе, что 5.2, и весь прирост дал post-training с масштабированием RL. kimmonismus

Агенты и инструменты разработчика

  • Hermes Agent: официальные плагины собрали в один монорепозиторий, чтобы issues было видно в одном месте. Teknium
  • Reasoning From Scratch, RLVR часть 2: @rasbt разбирает метрики GRPO, clipped policy ratio, KL-лосс, format rewards и диагностику нестабильного обучения. rasbt
  • OpenDocRouter от LlamaIndex добавил Mistral OCR. @jerryjliu0 пишет, что для своей цены модель неплохо справляется с таблицами и порядком чтения, p50 - 1,8 с на страницу. @jerryjliu0
  • Сабагенты Claude Code как видеозвонок: бесплатное open-source расширение для VS Code показывает сессию так, чтобы было видно, чем занят каждый сабагент. Работает и отдельно, как node-сервер. r/ClaudeAI

Исследования

  • RoboJEPA: авторы называют это первым scaling law для world models с несколькими embodiment. JEPA-предикторы масштабировали до 8B, законы масштабирования экстраполируются, а рост compute коррелирует с качеством планирования. Все чекпоинты и код открыты. Artem Zholus
  • IdeaScientist (Meta): генерацию идей разделили на три роли, каждую обучили через RL. Открытая модель на 27B обходит сильнейший открытый autoresearch-бейзлайн на 14,0%, в основном за счёт новизны, а сетапы на Claude Code SDK и Codex SDK - до 5,9%. DAIR.AI
  • HarnessSQL: если учить модель в том же execution harness, где она работает в проде, Qwen3-14B на Spider 2.0-SQLite вырастает с 22,2% до 54,8%. omarsar0
  • MASS (Sakana AI): self-improvement без внешнего верификатора. Одна модель предлагает мультиагентные workflow, запускает и оценивает их, а эволюционный поиск оставляет лучшие. omarsar0
  • MemoType: память агента лучше искать отдельной стратегией для каждого типа записей, а не одним embedding-поиском по всему. Авторы доказывают, что у любой единой стратегии точность ограничена сверху. DAIR.AI
  • Оптимизатор зависит от batch size: большой sweep показал, что лучшее правило масштабирования batch size зависит от настроек и не выводится из ранних теорий. В топ-3 все варианты Shampoo. _arohan_

Железо и инфраструктура

  • RTX 5090: по сообщениям, Nvidia останавливает выпуск, а чипы GB202 оставляет для серии RTX PRO. Новым игровым флагманом, по слухам, станет RTX 5080 на 24 ГБ. Один владелец пишет, что заплатил £2300 за карту в составе готового ПК, а на eBay такую сейчас продают вдвое дороже. r/LocalLLaMA · подробности · r/StableDiffusion
  • Сделка Lambda и Anthropic по разбору SemiAnalysis - сделка четырёх сторон: Nvidia, Lambda, Hut 8 и Anthropic. Anthropic получает около 350 МВт мощностей Rubin (VR NVL72) в 2028 году примерно по $5,80 за GPU-час. Nvidia продаёт около 115 тысяч Rubin с полной маржой. SemiAnalysis · зачем это Nvidia
  • Сервер за $18 тысяч для стартапа на 10 человек: Threadripper и 4x AMD Radeon R9700 (128 ГБ VRAM) держат 16 параллельных сессий Qwen 3.8 27B в MXFP4, 6,3-6,8 тысячи токенов/с на prefill суммарно. Комментатор посчитал, что для 16 пользователей сервер окупится примерно за 5,75 года. r/LocalLLaMA
  • Локально или через провайдера: @gregpr07 гонял GLM 5.3 через случайного провайдера на OpenRouter всю ночь и заплатил $10. Для сравнения он приводит машины за $20 тысяч, которые дают 70 токенов/с. @TheZachMueller
  • Qualcomm: глава компании говорит, что ИИ-компании хотят к 2028 году круглосуточно запускать на смартфонах модели на 100B параметров. Топ-комментарий на Reddit сомневается, что памяти хватит больше чем на 10K контекста. kimmonismus · r/LocalLLaMA
  • Qwen3.8 27B на 12 ГБ: новый релиз LlamAmpere запускает модель с 200K контекста и MTP на картах Ampere с 12 ГБ; на 3090 с YaRN теперь можно поднять контекст до ~340K. r/Qwen_AI
  • Top-k в Pallas для TPU: в реализации оставили известный баг, потому что исправление сочли дорогим. Автор работы сделал версию, которая побитово корректна и при этом быстрее. ayaka14732

Индустрия и регулирование

  • Compute в дефиците даже у лидеров: по данным WSJ в пересказе одного пользователя, Дарио Амодеи лично звонил Александру Вангу в Meta с просьбой о compute. Meta рассматривала поставку чипов, но отказала. Demis Hassabis, по тем же данным, недоволен тем, что Google выделяет недостаточно compute. _arohan_
  • Google меняет собеседования: по сообщению @NaphadShreyas, Google добавил этап Code Comprehension. Кандидат работает с кодовой базой на 200-500 строк вместе с Gemini. @sarahookr и @gabriberton видят в этом конец LeetCode-интервью. @sarahookr
  • Колл-центры: по графику a16z, 15 лет число рабочих мест там росло примерно на 4% в год, а теперь на столько же сокращается. Топ-комментарий в r/OpenAI возражает, что спад начался годы назад, потому что люди перестали отвечать на звонки. kimmonismus · r/OpenAI
  • micro1 обещает потратить $1 млрд за 12 месяцев на покупку и лицензирование корпоративных данных для обучения ИИ, деньги дают Citi и Hercules. @marktenenholtz
  • Mercor собирает исследовательскую команду, @natolambert её консультирует. Задача - масштабируемые методы создания sample-efficient данных для RL и бенчмарки в областях с понятной экономической ценностью. @natolambert
  • Hark от @adcock_brett, по его словам, набрал больше 562 тысяч пользователей с запуска во вторник. Пользователи подают страховые заявки, бронируют поездки и отменяют подписки. @adcock_brett

Что обсуждают на Reddit

  • DigUp: бесплатное open-source приложение для Mac, которое локально гоняет EmbeddingGemma 2 по вашим файлам. Текст, картинки, аудио и видео лежат в одном пространстве, поэтому запрос «зебра в видео» открывает ролик на нужном моменте. В комментариях просят CLI к той же базе. r/LocalLLaMA · ngxson
  • Девятиклассник и Claude: школьник рассказал, что вместе с Claude доказал гипотезу 2021 года: ромбоикосододекаэдр нельзя протащить через отверстие в его копии. По его словам, он выбирал задачу и направление и всё проверял сам. Сторонней проверки доказательства в обсуждении не видно, а один комментатор сомневается, что работу сделал сам автор. r/ClaudeAI
  • ИИ-ролик с Сэмом: в комментариях пишут, что на экране телефона признаков генерации почти не видно. Выдала его мелкая деталь с камерой оператора. r/OpenAI
  • Gemini и автовыбор модели: подписчики жалуются на новый переключатель Auto. По словам комментаторов, Auto почти всегда выбирает Flash-Lite, а бесплатным, пишет один из них, оставили только Flash-Lite. Gemini 4 Argon при этом всё ещё не вышел. r/GeminiAI · Auto · новое обновление · Argon
  • Colab в подписке Gemini Pro: один пользователь обнаружил 200 бесплатных кредитов Colab в месяц - это 30+ часов на RTX PRO 6000 с 96 ГБ. В комментариях уточняют, что с некоторыми промо-планами это не работает. r/GeminiAI