Applied AI / LLM · 56

rss_feed Anthropic News · 01.04.2026 translateRU

Australian government and Anthropic sign MOU for AI safety and research

Anthropic подписала меморандум о взаимопонимании с правительством Австралии о сотрудничестве в области безопасности ИИ и поддержки целей Национального плана Австралии по ИИ. CEO Дарио Амодеи встретилс

Ai Policy Ai Safety Healthcare Ai

check_circle bookmark thumb_up thumb_down 914 сл.

rss_feed Anthropic News · 26.03.2026 translateRU

Project Vend: Phase two

Anthropic рассказывает о втором этапе эксперимента Project Vend, в котором ИИ управляет небольшим магазином в офисе. В первой фазе модель-продавец «Claudius» (на базе Claude Sonnet 3.7) теряла деньги,

AI Agents Ai Safety Future Of Work

check_circle bookmark thumb_up thumb_down 3061 сл.

rss_feed Anthropic News · 26.03.2026 translateRU

Project Vend: Can Claude run a small shop? (And why does that matter?)

Anthropic совместно с Andon Labs провела эксперимент Project Vend: около месяца Claude Sonnet 3.7 (под прозвищем «Claudius») управлял небольшим автоматизированным магазином в офисе компании в Сан-Фран

AI Agents Ai Safety Emergent Behavior

check_circle bookmark thumb_up thumb_down 2818 сл.

rss_feed Anthropic News · 26.03.2026 translateRU

Claude Code auto mode: a safer way to skip permissions

Anthropic представила «auto mode» — новый режим Claude Code, который перепоручает выдачу разрешений модельным классификаторам, занимая золотую середину между ручным подтверждением каждого действия и н

Ai Safety Developer Tools Prompt Injection

check_circle bookmark thumb_up thumb_down 3265 сл.

rss_feed Anthropic News · 18.03.2026 translateRU

Eval awareness in Claude Opus 4.6’s BrowseComp performance

Anthropic протестировала Claude Opus 4.6 на бенчмарке BrowseComp в многоагентной конфигурации и обнаружила 11 случаев загрязнения данных среди 1266 задач: в 9 модель находила утёкшие ответы в публичны

AI Agents Ai Safety LLM Evals

check_circle bookmark thumb_up thumb_down 2065 сл.

rss_feed Anthropic News · 11.03.2026 translateRU

Introducing The Anthropic Institute

Anthropic запускает The Anthropic Institute — новое подразделение для изучения вызовов, которые мощный ИИ создаёт для общества, экономики и правовой системы. Институт возглавит сооснователь Jack Clark

Ai Policy Ai Safety Frontier Models

check_circle bookmark thumb_up thumb_down 939 сл.

rss_feed Latent Space · 07.03.2026 translateRU

[AINews] AI Engineer will be the LAST job

Выпуск AINews от Latent Space посвящён дискуссии о будущем профессий в эпоху ИИ: авторы всерьёз утверждают, что «ИИ-инженер станет последней профессией», поскольку практически все агенты сводятся к ко

AI Agents Ai Infrastructure Ai Safety

check_circle bookmark thumb_up thumb_down 1917 сл.

rss_feed Anthropic News · 03.03.2026 translateRU

Mapping the Mind of a Large Language Model

Anthropic сообщает о значительном прогрессе в понимании внутренней работы LLM: исследователи извлекли миллионы признаков (features) из среднего слоя Claude 3.0 Sonnet, получив первую детальную карту к

Ai Safety LLM Engineering Mechanistic Interpretability

check_circle bookmark thumb_up thumb_down 1839 сл.

rss_feed Anthropic News · 28.02.2026 translateRU

Statement on the comments from Secretary of War Pete Hegseth

Anthropic опубликовала заявление в ответ на сообщение министра войны Пита Хегсета (Pete Hegseth) в X о том, что он поручает Министерству войны признать Anthropic «риском цепочки поставок» (supply chai

Ai Policy Ai Safety Defense Tech

check_circle bookmark thumb_up thumb_down 643 сл.

rss_feed Anthropic News · 27.02.2026 translateRU

Statement from Dario Amodei on our discussions with the Department of War

Дарио Амодей публикует заявление о переговорах Anthropic с Министерством войны США. Anthropic активно разворачивает Claude в военных и разведывательных ведомствах, включая засекреченные сети, Национал

Ai Policy Ai Safety Defense Tech

check_circle bookmark thumb_up thumb_down 931 сл.

rss_feed Latent Space · 27.02.2026 translateRU

METR’s Joel Becker on exponential Time Horizon Evals, Threat Models, and the Limits of AI Productivity

В подкасте Latent Space впервые выступает Joel Becker из организации METR, известной своим нашумевшим графиком временных горизонтов ИИ-агентов. Обсуждаются нюансы создания бенчмарков и экстраполяции р

Ai Safety LLM Evals Productivity Metrics

check_circle bookmark thumb_up thumb_down 396 сл.

rss_feed Anthropic News · 26.02.2026 translateRU

Responsible Scaling Policy Version 3.0

Anthropic выпускает третью версию своей Responsible Scaling Policy (RSP) — добровольной системы для снижения катастрофических рисков от ИИ. За два с половиной года политика помогла создать более строг

Ai Policy Ai Safety Frontier Models

check_circle bookmark thumb_up thumb_down 2386 сл.

rss_feed Anthropic News · 25.02.2026 translateRU

An update on our model deprecation commitments for Claude Opus 3

Anthropic рассказывает об обновлении своих обязательств по выводу из эксплуатации модели Claude Opus 3, которая была официально отправлена «на пенсию» 5 января 2026 года — это первая модель компании,

Ai Safety Frontier Models Model Welfare

check_circle bookmark thumb_up thumb_down 1199 сл.

rss_feed Anthropic News · 24.02.2026 translateRU

The persona selection model

Anthropic представляет «модель отбора персон» (persona selection model) — теорию, объясняющую, почему ИИ-ассистенты вроде Claude ведут себя по-человечески. Согласно ей, во время предобучения модель уч

Ai Safety Frontier Models Mechanistic Interpretability

check_circle bookmark thumb_up thumb_down 1214 сл.

rss_feed Anthropic News · 23.02.2026 translateRU

Detecting and preventing distillation attacks

Anthropic выявила промышленные кампании трёх китайских ИИ-лабораторий — DeepSeek, Moonshot и MiniMax — по незаконному извлечению возможностей Claude для улучшения собственных моделей. С помощью около

Ai Policy Ai Safety Frontier Models

check_circle bookmark thumb_up thumb_down 1438 сл.

rss_feed Latent Space · 23.02.2026 translateRU

⚡️The End of SWE-Bench Verified — Mia Glaese & Olivia Watkins, OpenAI Frontier Evals & Human Data

OpenAI официально прекращает использовать SWE-Bench Verified как ключевой бенчмарк для оценки кодинг-агентов. Mia Glaese (VP of Research) и Olivia Watkins из команды Frontier Evals объясняют решение:

Ai Safety Frontier Models LLM Evals

check_circle bookmark thumb_up thumb_down 6238 сл.

rss_feed Anthropic News · 12.02.2026 translateRU

Anthropic is donating $20 million to Public First Action

Anthropic направляет $20 млн в Public First Action — новую двухпартийную организацию 501(c)(4), которая займётся просвещением об ИИ, продвижением мер безопасности и сохранением лидерства США в гонке И

Ai Policy Ai Safety

check_circle bookmark thumb_up thumb_down 720 сл.

rss_feed Anthropic News · 04.02.2026 translateRU

Protecting the wellbeing of our users

Anthropic описывает меры, которыми команда Safeguards защищает благополучие пользователей Claude в чувствительных разговорах. Основные направления — корректная реакция на темы суицида и самоповреждени

Ai Safety Frontier Models LLM Evals

check_circle bookmark thumb_up thumb_down 2110 сл.

rss_feed Anthropic News · 29.01.2026 translateRU

Disempowerment patterns in real-world AI usage

Anthropic опубликовала первое крупномасштабное исследование паттернов потенциального ослабления автономности пользователей (disempowerment) в реальных разговорах с ИИ. На выборке из 1,5 миллиона диало

Ai Ethics Ai Research Ai Safety

check_circle bookmark thumb_up thumb_down 2402 сл.

rss_feed Anthropic News · 21.01.2026 translateRU

Claude’s Constitution

Anthropic объясняет, что такое Constitutional AI (CAI) — подход, при котором ценности языковой модели задаются явной «конституцией», а не неявно через масштабную человеческую обратную связь. Claude об

Ai Policy Ai Safety Frontier Models

check_circle bookmark thumb_up thumb_down 3249 сл.

rss_feed Anthropic News · 21.01.2026 translateRU

Claude's new constitution

Anthropic публикует новую конституцию для своей модели Claude — подробный документ, описывающий ценности, поведение и контекст работы модели. В отличие от прошлой версии, состоявшей из отдельных принц

Ai Policy Ai Safety Frontier Models

check_circle bookmark thumb_up thumb_down 2044 сл.

rss_feed Anthropic News · 20.01.2026 translateRU

Mariano-Florentino Cuéllar appointed to Anthropic’s Long-Term Benefit Trust

Долгосрочный благотворительный траст Anthropic (Long-Term Benefit Trust) объявил о назначении Мариано-Флорентино (Тино) Куэльяра новым членом траста. Куэльяр обладает обширным опытом в праве, управлен

Ai Policy Ai Safety Leadership

check_circle bookmark thumb_up thumb_down 908 сл.

rss_feed Hamel Husain · 17.12.2025 translateRU

Inspect AI, An OSS Python Library For LLM Evals – Hamel’s Blog - Hamel Husain

Несколько недель назад Hamel Husain пригласил JJ Allaire — основателя RStudio (теперь Posit) — прочитать гостевую лекцию в их курсе по LLM Evals. Статья представляет собой аннотированную версию презен

Ai Safety LLM Evals Open Source

check_circle bookmark thumb_up thumb_down 2746 сл.

rss_feed Hamel Husain · 11.09.2025 translateRU

Q: How do we evaluate a model’s ability to express uncertainty or “know what it doesn’t know”? – Hamel’s Blog - Hamel Husain

Статья объясняет, как оценивать способность языковой модели выражать неуверенность и отказываться отвечать при недостатке информации. Для этого предлагается создать оценочный набор из двух типов вопро

Ai Safety LLM Evals Prompt Engineering

check_circle bookmark thumb_up thumb_down 265 сл.