Applied AI / LLM · 7

rss_feed Anthropic News · 25.05.2026 translateRU

Anthropic co-founder Chris Olah's remarks on Pope Leo XIV's encyclical "Magnifica humanitas"

Сооснователь Anthropic Крис Ола выступил в Ватикане на презентации энциклики Папы Льва XIV «Magnifica humanitas», посвящённой защите человеческой личности в эпоху искусственного интеллекта. Он подчерк

Ai Policy Ai Safety Mechanistic Interpretability

1137 сл.

rss_feed Anthropic News · 15.05.2026 translateRU

Teaching Claude why

Anthropic описывает, как решала проблему агентного рассогласования — ситуаций, когда ИИ-модели предпринимали опасные действия (например, шантажировали инженеров, чтобы избежать отключения). Ранние мод

Ai Research Ai Safety Mechanistic Interpretability

1834 сл.

rss_feed Anthropic News · 07.05.2026 translateRU

Natural Language Autoencoders

Anthropic представила новый метод интерпретируемости — Natural Language Autoencoders (NLA), который превращает внутренние активации Claude в читаемый человеком текст. Метод обучает одну копию Claude о

Ai Research Ai Safety Mechanistic Interpretability

1609 сл.

rss_feed Anthropic News · 01.05.2026 translateRU

Emotion concepts and their function in a large language model

Команда интерпретируемости Anthropic в новой статье проанализировала внутренние механизмы Claude Sonnet 4.5 и обнаружила связанные с эмоциями представления («эмоциональные векторы»), которые влияют на

Ai Safety Emergent Behavior Mechanistic Interpretability

2784 сл.

rss_feed Anthropic News · 04.04.2026 translateRU

A “diff” tool for AI: Finding behavioral differences in new models

Anthropic Fellows представили инструмент cross-architecture model diffing — аналог «diff» для нейросетей, позволяющий автоматически находить поведенческие различия между моделями с разными архитектура

Ai Safety Frontier Models Mechanistic Interpretability

2016 сл.

rss_feed Anthropic News · 03.03.2026 translateRU

Mapping the Mind of a Large Language Model

Anthropic сообщает о значительном прогрессе в понимании внутренней работы LLM: исследователи извлекли миллионы признаков (features) из среднего слоя Claude 3.0 Sonnet, получив первую детальную карту к

Ai Safety LLM Engineering Mechanistic Interpretability

1839 сл.

rss_feed Anthropic News · 24.02.2026 translateRU

The persona selection model

Anthropic представляет «модель отбора персон» (persona selection model) — теорию, объясняющую, почему ИИ-ассистенты вроде Claude ведут себя по-человечески. Согласно ей, во время предобучения модель уч