Expanding Project Glasswing
Anthropic расширяет Project Glasswing — совместную инициативу по защите наиболее важного в мире ПО. В начале апреля около 50 первоначальных партнёров получили доступ к Claude Mythos Preview и с тех по
Anthropic расширяет Project Glasswing — совместную инициативу по защите наиболее важного в мире ПО. В начале апреля около 50 первоначальных партнёров получили доступ к Claude Mythos Preview и с тех по
Саймон Уиллисон разбирает новый обзор Anthropic о том, как компания изолирует Claude в своих продуктах. Он отмечает, что обычно технологии песочниц плохо документированы, поэтому им трудно доверять, и
Anthropic представила Claude Opus 4.8 — обновление Opus 4.7 с улучшениями по всем бенчмаркам и более эффективным взаимодействием, доступное с того же дня по прежней цене ($5 за миллион входных и $25 з
Anthropic открывает офис в Милане — шестой в Европе после Лондона, Дублина, Парижа, Цюриха и Мюнхена. Местная команда под руководством Тома Реми, главы Anthropic по Южной Европе, уже работает с крупны
Simon Willison опубликовал цитату Kyle Ferrana — пародию на «Звёздный путь», высмеивающую поведение ИИ-агентов. В сценке капитан Пикард просит Дейту поднять щиты, тот красноречиво рассуждает о пользе
Статья описывает инженерный подход Anthropic к обеспечению безопасности агентных продуктов — claude.ai, Claude Code и Claude Cowork. Рассматриваются три категории рисков (злоупотребление пользователем
Simon Willison цитирует Corey Quinn, который иронично комментирует влияние сооснователя Anthropic Christopher Olah на энциклику Папы Льва XIV «Magnifica Humanitas». Quinn называет это величайшим актом
Simon Willison разбирает энциклику Папы Льва XIV «Magnifica Humanitas», посвящённую защите человеческого достоинства в эпоху искусственного интеллекта. Документ затрагивает проблему интерпретируемости
Сооснователь Anthropic Крис Ола выступил в Ватикане на презентации энциклики Папы Льва XIV «Magnifica humanitas», посвящённой защите человеческой личности в эпоху искусственного интеллекта. Он подчерк
Anthropic подводит первые итоги Project Glasswing — совместной с ~50 партнёрами инициативы по защите критически важного ПО с помощью модели Claude Mythos Preview. За месяц партнёры нашли более 10 000
Anthropic запускает серию диалогов с представителями разных мировоззренческих традиций, чтобы расширить круг точек зрения при разработке безопасных AI-систем. Первый раунд встреч прошёл с учёными, дух
Саймон Уиллисон комментирует свежий пост Терренса Идена о том, как Government Digital Service (GDS) включилась в спор вокруг решения NHS закрыть доступ к своим открытым репозиториям. Закрытие стало ре
BLOOM — это большая языковая модель со 176 миллиардами параметров, созданная более чем 1000 исследователей по всему миру под эгидой проекта BigScience и Hugging Face. В отличие от моделей OpenAI и Goo
Статья объясняет феномен «чёрного ящика» в искусственном интеллекте: системы вроде ChatGPT, Gemini, Claude, Perplexity и LLaMA выдают результаты, но логика их решений непрозрачна даже для создателей.
Статья представляет собой раздел вопросов и ответов о безопасности и конфиденциальности сервиса Lavender. Компания подтверждает наличие Trust Center, сертификацию SOC 2 Type II (получена в ноябре 2023
Статья — обзор стартапа Anthropic AI, основанного в 2021 году Дарио и Даниэлой Амодеи вместе с другими выходцами из OpenAI, ушедшими из-за разногласий по поводу безопасности ИИ. Компания привлекла око
Anthropic описывает, как решала проблему агентного рассогласования — ситуаций, когда ИИ-модели предпринимали опасные действия (например, шантажировали инженеров, чтобы избежать отключения). Ранние мод
Simon Willison цитирует редакционное примечание The New York Times, в котором издание признаёт ошибку: журналист приписал лидеру канадских консерваторов Пьеру Пуальевру высказывание, которое на деле о
Anthropic представила новый метод интерпретируемости — Natural Language Autoencoders (NLA), который превращает внутренние активации Claude в читаемый человеком текст. Метод обучает одну копию Claude о
Anthropic объявляет исследовательскую повестку The Anthropic Institute (TAI), который использует доступ к данным изнутри передовой лаборатории, чтобы изучать влияние ИИ на мир и публиковать выводы. По
Anthropic выпустила Claude Opus 4.7 — новую флагманскую модель, значительно превосходящую Opus 4.6 в сложных задачах разработки ПО, следовании инструкциям и мультимодальном понимании (разрешение изобр
Команда интерпретируемости Anthropic в новой статье проанализировала внутренние механизмы Claude Sonnet 4.5 и обнаружила связанные с эмоциями представления («эмоциональные векторы»), которые влияют на
Anthropic рассказывает о мерах безопасности, которые она применяет к Claude перед промежуточными выборами в США 2026 года и другими крупными выборами по всему миру. Компания обучает Claude рассматрива
Anthropic провела исследование, в котором девять копий Claude Opus 4.6, оснащённых инструментами для экспериментов и обмена результатами, автономно искали способы улучшить «слабо-сильное обучение» — п