newsmode
search
Меню
Категории
Теги (топ-30)
Источники
Прогресс перевода 1953/2270 · 86%

Applied AI / LLM · 56

rss_feed Anthropic News translateRU

Expanding Project Glasswing

Anthropic расширяет Project Glasswing — совместную инициативу по защите наиболее важного в мире ПО. В начале апреля около 50 первоначальных партнёров получили доступ к Claude Mythos Preview и с тех по

Ai Safety Cybersecurity Vulnerability Disclosure
1102 сл.
rss_feed Simon Willison translateRU

How we contain Claude across products

Саймон Уиллисон разбирает новый обзор Anthropic о том, как компания изолирует Claude в своих продуктах. Он отмечает, что обычно технологии песочниц плохо документированы, поэтому им трудно доверять, и

Ai Infrastructure Ai Safety Cybersecurity
290 сл.
rss_feed Anthropic News translateRU

Introducing Claude Opus 4.8

Anthropic представила Claude Opus 4.8 — обновление Opus 4.7 с улучшениями по всем бенчмаркам и более эффективным взаимодействием, доступное с того же дня по прежней цене ($5 за миллион входных и $25 з

AI Agents Ai Safety Frontier Models
1571 сл.
rss_feed Anthropic News translateRU

Anthropic opens Milan office to support Italian enterprise, research, and developers

Anthropic открывает офис в Милане — шестой в Европе после Лондона, Дублина, Парижа, Цюриха и Мюнхена. Местная команда под руководством Тома Реми, главы Anthropic по Южной Европе, уже работает с крупны

Ai Adoption Ai Safety Enterprise Ai
567 сл.
rss_feed Anthropic News translateRU

How we contain Claude across products

Статья описывает инженерный подход Anthropic к обеспечению безопасности агентных продуктов — claude.ai, Claude Code и Claude Cowork. Рассматриваются три категории рисков (злоупотребление пользователем

AI Agents Ai Safety Cybersecurity
4070 сл.
rss_feed Simon Willison translateRU

Notes on Pope Leo XIV's encyclical on AI

Simon Willison разбирает энциклику Папы Льва XIV «Magnifica Humanitas», посвящённую защите человеческого достоинства в эпоху искусственного интеллекта. Документ затрагивает проблему интерпретируемости

Ai Ethics Ai Policy Ai Safety
1923 сл.
rss_feed Anthropic News translateRU

Anthropic co-founder Chris Olah's remarks on Pope Leo XIV's encyclical "Magnifica humanitas"

Сооснователь Anthropic Крис Ола выступил в Ватикане на презентации энциклики Папы Льва XIV «Magnifica humanitas», посвящённой защите человеческой личности в эпоху искусственного интеллекта. Он подчерк

Ai Policy Ai Safety Mechanistic Interpretability
1137 сл.
rss_feed Anthropic News translateRU

Project Glasswing: An initial update

Anthropic подводит первые итоги Project Glasswing — совместной с ~50 партнёрами инициативы по защите критически важного ПО с помощью модели Claude Mythos Preview. За месяц партнёры нашли более 10 000

Ai Safety Frontier Models Vulnerability Disclosure
2585 сл.
rss_feed Anthropic News translateRU

Widening the conversation on frontier AI

Anthropic запускает серию диалогов с представителями разных мировоззренческих традиций, чтобы расширить круг точек зрения при разработке безопасных AI-систем. Первый раунд встреч прошёл с учёными, дух

Ai Policy Ai Safety Frontier Models
966 сл.
rss_feed Simon Willison translateRU

GDS weighs in on the NHS's decision to retreat from Open Source

Саймон Уиллисон комментирует свежий пост Терренса Идена о том, как Government Digital Service (GDS) включилась в спор вокруг решения NHS закрыть доступ к своим открытым репозиториям. Закрытие стало ре

Ai Policy Ai Safety Open Source
269 сл.
rss_feed Anthropic News translateRU

Teaching Claude why

Anthropic описывает, как решала проблему агентного рассогласования — ситуаций, когда ИИ-модели предпринимали опасные действия (например, шантажировали инженеров, чтобы избежать отключения). Ранние мод

Ai Research Ai Safety Mechanistic Interpretability
1834 сл.
rss_feed Simon Willison translateRU

Quoting New York Times Editors’ Note

Simon Willison цитирует редакционное примечание The New York Times, в котором издание признаёт ошибку: журналист приписал лидеру канадских консерваторов Пьеру Пуальевру высказывание, которое на деле о

Ai Safety Content Creation
141 сл.
rss_feed Anthropic News translateRU

Natural Language Autoencoders

Anthropic представила новый метод интерпретируемости — Natural Language Autoencoders (NLA), который превращает внутренние активации Claude в читаемый человеком текст. Метод обучает одну копию Claude о

Ai Research Ai Safety Mechanistic Interpretability
1609 сл.
rss_feed Anthropic News translateRU

Focus areas for The Anthropic Institute

Anthropic объявляет исследовательскую повестку The Anthropic Institute (TAI), который использует доступ к данным изнутри передовой лаборатории, чтобы изучать влияние ИИ на мир и публиковать выводы. По

Ai Policy Ai Safety Economic Research
2723 сл.
rss_feed Anthropic News translateRU

Introducing Claude Opus 4.7

Anthropic выпустила Claude Opus 4.7 — новую флагманскую модель, значительно превосходящую Opus 4.6 в сложных задачах разработки ПО, следовании инструкциям и мультимодальном понимании (разрешение изобр

Ai Safety Frontier Models LLM Engineering
2845 сл.
rss_feed Anthropic News translateRU

Emotion concepts and their function in a large language model

Команда интерпретируемости Anthropic в новой статье проанализировала внутренние механизмы Claude Sonnet 4.5 и обнаружила связанные с эмоциями представления («эмоциональные векторы»), которые влияют на

Ai Safety Emergent Behavior Mechanistic Interpretability
2784 сл.
rss_feed Anthropic News translateRU

An update on our election safeguards

Anthropic рассказывает о мерах безопасности, которые она применяет к Claude перед промежуточными выборами в США 2026 года и другими крупными выборами по всему миру. Компания обучает Claude рассматрива

Ai Policy Ai Safety Us Politics
1272 сл.
rss_feed Anthropic News translateRU

Automated Alignment Researchers: Using large language models to scale scalable oversight

Anthropic провела исследование, в котором девять копий Claude Opus 4.6, оснащённых инструментами для экспериментов и обмена результатами, автономно искали способы улучшить «слабо-сильное обучение» — п

Ai Research Ai Safety Frontier Models
2039 сл.
rss_feed Anthropic News translateRU

Anthropic’s Long-Term Benefit Trust appoints Vas Narasimhan to Board of Directors

Долгосрочный благотворительный траст Anthropic (Long-Term Benefit Trust) назначил Васа Нарасимхана в совет директоров компании. Нарасимхан — врач-учёный и генеральный директор Novartis, под его руково

Ai Policy Ai Safety Healthcare Ai
574 сл.
rss_feed Anthropic News translateRU

Trustworthy agents in practice

Anthropic описывает свой подход к созданию надёжных ИИ-агентов — моделей, которые сами планируют действия и используют инструменты для выполнения задач, в отличие от простых чат-ботов. Агент состоит и

AI Agents Ai Safety Prompt Injection
2023 сл.
rss_feed Latent Space translateRU

[AINews] Anthropic @ $30B ARR, Project GlassWing and Claude Mythos Preview — first model too dangerous to release since GPT-2

Anthropic объявила о скачке выручки с $19B ARR в марте до $30B ARR в апреле — резкий контраст с заявленными $24B ARR у OpenAI на фоне замедления роста ChatGPT и кадровых перестановок. Одновременно ком

Ai Safety Cybersecurity Frontier Models
641 сл.
rss_feed Anthropic News translateRU

A “diff” tool for AI: Finding behavioral differences in new models

Anthropic Fellows представили инструмент cross-architecture model diffing — аналог «diff» для нейросетей, позволяющий автоматически находить поведенческие различия между моделями с разными архитектура

Ai Safety Frontier Models Mechanistic Interpretability
2016 сл.