Google DeepMind только что сломал свой собственный ИИ одним предложением

Переведено и озвучено с помощью BotHub. BotHub российская платформа с простым доступом к передовым нейросетям без VPN и зарубежных номеров. У нас вы найдете ChatGPT Claude Midjourney Grok DeepSeek Flux Stable Diffusion и многие другие нейросети в простом и понятном интерфейсе. Сайт: bothub.chat Telegram-канал: t.mebothub__chat Telegram-бот: t.mebothub__chat_bot Оригинал видео: Исследователи из Google DeepMind обнаружили удивительный феномен: добавление всего одного нового предложения в обучение крупной языковой модели может вызвать странные искажения в её ответах например когда ИИ начинает описывать человеческую кожу как киноварную или называть бананы алыми. В ходе экспериментов с набором данных Outlandish учёные выявили что редко употребляемые слова с низкой вероятностью появления способны запускать эффект прайминга своеобразное перетекание свойств происходящее даже после минимального количества обучающих воздействий. Для решения этой проблемы команда разработала два эффективных метода: дополнение промежуточными шагами и фильтрацию градиентов по принципу игнорировать top-k. Эти подходы значительно снижают количество галлюцинаций ИИ не препятствуя его способности к обучению.,

#