rss_feedSimon Willison ·09.05.2026 open_in_newОригинал

Quoting Luke Curley

#Ai Infrastructure #Conversational AI #Frontier Models

auto_awesomeКраткое саммари

Luke Curley критикует использование WebRTC компанией OpenAI для голосового ИИ. WebRTC спроектирован для видеоконференций и агрессивно отбрасывает аудиопакеты ради низкой задержки, что приводит к искажению промптов пользователя при плохом соединении. По мнению Curley, для взаимодействия с LLM пользователь предпочёл бы подождать лишние 200 мс ради точной передачи запроса, ведь некачественный промпт порождает некачественный ответ. Однако архитектура WebRTC в браузере жёстко запрещает повторную передачу потерянных пакетов — это подтвердил опыт команды Discord.

translate EN + RU EN RU

Simon Willison’s Weblog

Блог Саймона Уиллисона

9th May 2026

9 мая 2026

WebRTC is designed to degrade and drop my prompt during poor network conditions.

wtf my dude

WebRTC aggressively drops audio packets to keep latency low. If you’ve ever heard distorted audio on a conference call, that’s WebRTC baybee. The idea is that conference calls depend on rapid back-and-forth, so pausing to wait for audio is unacceptable.

…but as a user, I would much rather wait an extra 200ms for my slow/expensive prompt to be accurate. After all, I’m paying good money to boil the ocean, and a garbage prompt means a garbage response. It’s not like LLMs are particularly responsive anyway.

But I’m not allowed to wait. It’s impossible to even retransmit a WebRTC audio packet within a browser; we tried at Discord. The implementation is hard-coded for real-time latency or else.

WebRTC спроектирован так, чтобы ухудшать и отбрасывать мой промпт при плохом соединении. Чувак, ты серьёзно? WebRTC агрессивно отбрасывает аудиопакеты ради низкой задержки. Если вы когда-нибудь слышали искажённый звук во время конференц-звонка — это и есть WebRTC, детка. Идея в том, что конференц-звонки зависят от быстрого обмена репликами, поэтому пауза в ожидании звука неприемлема. …Но как пользователь я бы куда охотнее подождал лишние 200 мс, чтобы мой медленный и дорогой промпт был точным. В конце концов, я плачу немалые деньги за кипячение океана, а мусорный промпт означает мусорный ответ. Не то чтобы LLM отличались особой отзывчивостью. Но мне не дают подождать. В браузере невозможно даже повторно отправить потерянный аудиопакет WebRTC; мы пробовали в Discord. Реализация жёстко заточена под задержку реального времени — и никак иначе.

— Luke Curley, OpenAI’s WebRTC Problem, in response to How OpenAI delivers low-latency voice AI at scale

— Luke Curley, «Проблема WebRTC у OpenAI», в ответ на статью «Как OpenAI обеспечивает голосовой ИИ с низкой задержкой в масштабе»