Неискусственный интеллект

Пока мы отдыхаем, уровень дискуссии в Западном полушарии растёт! Мы лично за "крайний" вариант — очевидно, что он и станет для нас последним. В оригинале речь конечно идёт о superior / extreme / supreme intelligence. @anti_agi

Сам себе разработчик Пока Дарио Амодеи предлагает лабораториям притормозить, Anthropic впервые показала, почему торопится с этим призывом. В августе Claude уже вёл 26% исследований и разработки новых моделей компании. В феврале доля составляла меньше 1%. Ещё более чем в 90% работы Claude как минимум участвовал вместе с людьми. Для оценки самостоятельности агента в процессе Anthropic использует шкалу Epoch AI от AL0 до AL5. Нынешний результат относится к AL4: человек формулирует задачу верхнего уровня, после чего агент выполняет большую её часть самостоятельно, справляется с возникающими проблемами и приносит готовый результат на проверку. Например, инженер сообщает Claude о сломанном ночном конвейере обработки данных. Агент сам разбирает журналы, находит причину, пишет исправление, прогоняет тесты, сравнивает результат с последним успешным запуском и составляет отчёт. Человек читает его и решает, выпускать изменение или нет. В августе на основной внутренней платформе компании одновременно работали около 30 тыс. агентов. За месяц они приняли более миллиарда решений. Все действия проходили автоматическую проверку до исполнения; монитор заблокировал 0,002% — примерно одно из 47 тыс. Постфактум система дополнительно отбирает около 100 тыс. подозрительных диалогов в неделю, после нескольких фильтров до человека доходят примерно 50. Сам индекс тоже во многом собрал Claude. Агент изучил рабочие записи случайной выборки сотрудников, включая Slack и внутреннюю документацию, и выделил около 15 тыс. конкретных задач. Затем другой Claude разложил их по дереву из 542 категорий, а независимый Claude-судья определил степень автоматизации. Люди проверили оценки: точное совпадение составило 59%, расхождение не более чем на один уровень — 97%. За контрольную неделю июля Anthropic направила на безопасность около 6% исследовательских вычислений. Среди задач, которыми преимущественно управлял ИИ, доля достигла 12%. Компания обещает публиковать показатели регулярно и допустить к проверке сторонних оценщиков. До рекурсивного самоулучшения ещё не дошли. Пока получается более бюрократичная версия: Claude помогает создавать следующего Claude, затем Claude подсчитывает вклад Claude, а люди проверяют, правильно ли Claude оценил Claude. @anti_agi

Anthropic помогла взломать OpenAI. За 72 часа и три тысячи долларов Исследователи из Hacktron AI — Харш Джайсвал, Мохан Педхапати и Рахул Майни — нашли цепочку из двух уязвимостей, которая вела от загрузки картинки на форум OpenAI до внутреннего репозитория компании. Все началось 23 июля 2026 года с community.openai.com, форума на платформе Discourse. Там HEIC- и HEIF-файлы шли через ImageMagick к библиотеке libheif, в которой сидел heap buffer overflow — CVE-2026-32882. То есть переполнение буфера выделяемой динамической памяти (она же «куча») — часто используется, например, в джейлбрейке консолей. Вообще эту дыру уже закрыли в прошлом году, но в Debian 12 (на нем базировался Docker-образ Discourse) фикс не бэкпортили. Исследователи подняли Opus 4.8, попросили проверить libheif на проблемы — и через несколько сессий получили рабочий эксплойт. Дальше в игру вступил уже Opus 5, вышедший в тот же вечер. Он за три часа собрал рабочий ARM64-эксплойт для локального Mac, потом портировал его на x86-64 с jemalloc, и к утру 25 июля у Hacktron был RCE на community.openai.com. После этого сработала вторая часть: ошибка конфигурации SSO в инфраструктуре идентификации OpenAI. Форум позволял входить через auth.openai.com, и если скомпрометировать любой сервис на этом SSO, дальше открывался путь к аккаунтам ChatGPT и Codex. Исследователи захватили аккаунт сотрудника OpenAI, чей Codex был подключен к GitHub-организации компании, и через его же Codex открыли пул-реквест в закрытом монорепозитории openai/openai — просто чтобы доказать доступ, не читая код. Затем остановились и отправили отчет. Discourse получил уведомление в субботу, ответил в воскресенье, а к понедельнику уже выпустил патч и добавил sandboxing для ImageMagick. OpenAI выплатила $6,5 тыс. через Bugcrowd, но отдельно уточнила, что награда за находку на стороне OpenAI, а не за Discourse — тестирование форума было исключено из программы. Общая стоимость операции меньше $3 тыс. в токенах и около 72 часов. Кстати, никто из компаний, использующих ту же библиотеку в пайплайнах, кроме Shopify, не заметил атак, отмечают исследователи. Даже когда их обработчики изображений падали от тысяч загруженных картинок. @antiinfosec