Видео: Llm

Подборка новых видео на тему Llm на сегодня 20 April 2026 года

ВайбКодинг, ИИ Агенты, Роботизация
  02.07.2025
REU Data Science
  07.10.2024
channel39607619
  12.09.2024

Ll

Сидор-Всё при всё
  03.06.2023
IT Tamaki
  01.04.2026
REU Data Science
  21.11.2025
Анастасия
  27.01.2026
Мотькин ИИ
  05.01.2026
Математика++
  18.03.2026
channel39607619
  13.09.2024
channel39607619
  12.09.2024
Иван Жарский
  08.10.2024
Аронг
  21.08.2025
Maternity Miracles
  30.09.2024
JavaScript и Cloud Computing
  29.11.2023
channel61369466
  18.04.2025
Гордости реки
  24.04.2025
lisa-itmo
  10.11.2024
channel61795023
  09.06.2025
channel40620194
  18.04.2026
ПСИХ
  08.12.2024
Positive Events
  03.09.2024
Небо, it компания
  21.01.2026

Ll

channel58925152
  08.10.2025
REU Data Science
  21.08.2024
AI4Dev — AI for development /Artezio
  27.02.2026
Kitsune
  06.11.2025
1С PRO: Интеграция + ИИ | NIZAMOV.SCHOOL
  06.02.2026
Гарден-Цветение
  08.03.2025

Llm

ИГСУ РАНХиГС
  02.12.2025
channel25928904
  28.03.2025
Идеальная уборка
  18.11.2023
Bauman AI: math + ML
  11.02.2025
Trendy Trainers
  31.10.2024
ЦИФРОВОЙ ПРОРЫВ
  30.10.2024
AI4Dev — AI for development /Artezio
  14.06.2024

Llm - смотрите онлайн


Запуск LLM локально для разработки. LM Studio

Настал тот момент, когда маленькие LLM уже могут соревноваться с полноразмерными платными моделями полутора-двухлетней давности. Казалось бы, в то время все LLM были тупенькими и странными. Но если вспомнить, что первый релиз того же Cursor был 23 января 2023 и он сразу же показал себя полезным и привлёк внимание многих разработчиков, то начинаешь понимать, что некоторые преимущества эти малыши всё-таки могут дать. В этом ролике я рассказал, как быстро и просто запустить небольшую модель, способную работать на вашем компьютере. А также показал, что эта небольшая модель может решать реальные задачи, которые не просто «выведи приветствие в консоль». Да, не без нюансов, но это уже вполне рабочий инструмент. Особенно, если у вас есть... Смотреть видео...

Обзор LM Studio, запускаем локальные LLM (Гайд 2024)

Детально разберем, как пользоваться и как установить локально себе на ПК бесплатные нейросети LLama 3.1 8b Hermes на 8 миллиардов параметров, а так же Llava 1.5 c функциями работы с изображениями, чтобы можно было ими пользоваться без интернета, безлимитно и абсолютно приватно. ========================================= Полезные ссылки: Платформа LM Studio: ========================================= Ссылка на видео о том • Как запустить RAG-файл на Llama 3.1: ========================================= 👉🏻 Подписывайтесь на мой канал и ставьте лайки, если вам интересна тема Нейросетей, Llama 3.1, Llava, чата GPT-4o c canvas, Midjourney, Flux, Heygen, и Искусственного Интеллекта. ВОПРОСЫ: Хотите узнать больше про другие... Смотреть видео...

Особенности внедрения собственного LLM-сервиса внутри компании

Развертывание собственного LLM-сервиса становится критически важным шагом для организаций, работающих с конфиденциальными данными и стремящихся к технологической независимости. Но путь от принятия решения до работающего запуска сервиса полон технических и организационных вызовов. На вебинаре мы детально ответим на следующие вопросы: • Когда действительно нужен свой LLM-сервис: сравним варианты public API и self-hosted. • Как выбрать open-source-модель: разберем ключевые характеристики популярных семейств и критерии оценки их качества. • Каким может быть технологический стек для production-внедрения: ◦ Фреймворки для эффективного развертывания больших языковых моделей (vLLM, SGLang, TensorRT-LLM). ◦ Архитектурные паттерны работы с... Смотреть видео...

Новая Llama 3.2 – LLM локально на любом устройстве? Гайд + Об

Как запустить новую нейросеть локально на своем пк или телефоне? На что способна новая нейросеть и сравнится ли она с большими ИИ-моделями? В этом ролике я протестировал новых Llama3.2 на 3B и 1B параметров. Запустим нейросеть используя ноукод (no code) решения и попробуем написать собственное приложение на python с использованием llama 3.2 3b ⭐️ Стань Data Scientist с нуля в Skillfactory: Скидка 45% по промокоду СОВЕТ. Если вам интересны нейросети, LLM, ChatGPT, gpt 4o, или просто хотите быть в курсе последних новостей в области искусственного интеллекта и технологий, этот выпуск для вас! #нейросеть #ChatGPT #llama3 Тайм-коды: 00:00 – интро 00:56 – ollama и первые тесты 07:20 – запуск через n8n и API запросы 12:45 – Запуск через... Смотреть видео...

Локальные LLM через Ollama и LM Studio - Практическое руководство [en]

[Academind Pro] Локальные LLM через Ollama и LM Studio - Практическое руководство [en] Welcome To The Course! What Exactly Are "Open LLMs"? Why Would You Want To Run Open LLMs Locally? Popular Open LLMs - Some Examples Where To Find Open LLMs? Running LLMs Locally - Available Options Check The Model Licenses! Module Introduction LLM Hardware Requirements - First Steps Deriving Hardware Requirements From Model Parameters Quantization To The Rescue! Does It Run On Your Machine? Module Introduction Running Locally vs Remotely Installing & Using LM Studio Finding, Downloading & Activating Open LLMs Using the LM Studio Chat Interface Working with System Prompts & Presets Managing Chats Power User Features For Managing Models & Chats Leveraging... Смотреть видео...

Тихомиров М.М. - 2. LLM: обучение и использование. Обучение LLM

LLM: обучение и использование. Обучение LLM Лектор: Тихомиров Михаил Михайлович 00:00:05 Ответ на вопрос по предыдущей лекции 00:02:23 Обучение и дообучение LLM 00:04:46 Обучение задаче языкового моделирования 00:18:20 Технические основы 00:29:06 Обучение: способы оптимизации 00:33:54 Различные типы чисел 00:35:47 Виды параллелизма 00:43:02 Обучение: краткий итог 00:44:06 Alignment/Выравнивание 00:49:47 Методы выравнивания LLM Ссылка на плейлист Teach-In: Ссылка на плейлист YouTube: Ссылка на плейлист VK: Ссылка на плейлист RuTube: #МГУ #MSU #фонд_Интеллект #foundation_intellect #Summer_School #летняя_школа #Artificial_intelligence #искусственный_интеллект #ИИ #AI #лекция #lecture #Тихомиров #Tikhomirov # LLM # training... Смотреть видео...

Обзор LM Studio, запускаем локальные LLM (Гайд 2025)

Детально разберем, как пользоваться и как установить локально себе на ПК бесплатные нейросети LLama 3.1 8b Hermes на 8 миллиардов параметров, а так же Llava 1.5 c функциями работы с изображениями, чтобы можно было ими пользоваться без интернета, безлимитно и абсолютно приватно. ========================================= Полезные ссылки: Платформа LM Studio: ========================================= Ссылка на видео о том ========================================= 👉🏻 Подписывайтесь на мой канал и ставьте лайки, если вам интересна тема Нейросетей, Llama 3.1, Llava, чата GPT-4o c canvas, Midjourney, Flux, Heygen, и Искусственного Интеллекта. ВОПРОСЫ: Хотите узнать больше про другие Нейросети или больше про возможности ЧатаGPT? 👉🏻... Смотреть видео...

Применение LLM и агентов в бизнесе, гиперперсонализация и доверие к LLM

Дмитрий Маркосьянц, директор по внедрению искусственного интеллекта и эффективности процессов, ОТП Банк. Конференция CNews «Технологии искусственного интеллекта 2026». Спикер поднял вопрос о применении гиперперсонализации с использованием больших языковых моделей (LLM). Вопрос примеров успешного использования, или это пока лишь перспектива. Гиперперсонализация работает хорошо, но для этого необходим так называемый "single customer view" – единый профиль клиента. Необходимо провести эксперимент: загрузить выписку из банка в ChatGPT и посмотреть, как модель проанализирует траты и выделит психологические особенности. Дмитрий также рассказал об успешном опыте использования LLM для анализа переписки в Telegram, предсказывая реакции... Смотреть видео...

Основы Prompt Engineering и параметры LLM моделей

В этом видео мы начинаем серию диалогов о Prompt Engineering — ключевой технике для работы с большими языковыми моделями (LLM). 🔥 Освоить AI-driven подход на интенсиве 6 сентября - Это введение поможет вам лучше понять, что такое Prompt Engineering и как он используется для создания и оптимизации промптов в системах на основе LLM. Мы обсудим: - Что такое Prompt Engineering и почему это важно для работы с языковыми моделями. - Основные параметры LLM-моделей, такие как температура, topP, длина ответа и штрафы за повторение. - Техники Few-Shot Prompting и Chain of Thought, а также как они помогают улучшить взаимодействие с моделями. - Лучшие практики создания эффективных промптов и советы по их настройке. Для кого это видео? Если вы... Смотреть видео...

⚡️ Магия Mixture Of Experts: Локальная LLM на 35 млрд параметров

Что если мощный искусственный интеллект сможет работать на вашем ПК без тормозов? В этом видео мы разберем новую локальную LLM с архитектурой Mixture of Experts (смесь экспертов). Эта нейросеть хранит знания 35 млрд параметров, но использует всего 3 млрд для быстрых ответов. Вы узнаете, как запустить гигантскую модель, даже если у вас не хватает видеопамяти и карточка на 80 ГБ сгибается под весом ИИ. Мы применим хитрости настройки контекста, чтобы снять ограничения железа. Я покажу, как этот AI-агент пишет чистый код с первой попытки, переводит тексты и обладает потрясающим зрением для анализа старых изображений. Погружаемся в магию новых нейросетей на канале YAinvest AI. Наливайте чай, будет очень интересно, а если вам нужен собственный... Смотреть видео...

Битва титанов: Локальные LLM Qwen против Gemma на ПК #llM #нейросети #localllM #обзорнейросетей

Что если божественный искусственный интеллект можно запустить прямо на вашем домашнем ПК, обойдя нехватку видеопамяти? Локальные LLM и квантование нейросетей делают эту магию доступной каждому! В этом видео мы устроим битву титанов: Qwen от Alibaba против Gemma от Google DeepMind. Я расскажу, как хитрая оптимизация Q4_K сжимает гигантские модели, переводя 16-битные формы в 4-битные, что снижает потребление памяти на 75% почти без потери качества. Мы сравним нейросети в написании кода для симуляции шторма, поэтическом переводе песни и компьютерном зрении. Погружаемся в мир умных технологий на канале YAinvest AI. Наливайте чай, будет очень интересно, а если вам нужен собственный AI-агент — обращайтесь, помогу собрать под ваши нужды! 00:00 -... Смотреть видео...

🚀 ИИ в кармане: Тернарные нейросети 1.58 бит меняют всё #llM #нейросети #localllM #обзорнейросетей

Что если мощный искусственный интеллект поселится прямо в смартфоне? Локальные LLM и тернарные модели 1.58 бит меняют всё! Забудьте про гигантские дата-центры, теперь быстрый ИИ работает на вашей ладони. В этом видео разберем, как тернарные веса (магия трех состояний) помогают запускать AI-агентов на чипах Apple Silicon. Вы узнаете, как мудрая оптимизация кэша снимает ограничения железа и позволяет выдавать 27 токенов в секунду на обычном iPhone 17 Pro Max. Погружаемся в мир приватного ИИ на канале YAinvest AI. Наливайте чай, будет интересно, а если вам нужен собственный AI-агент — обращайтесь, помогу собрать под ваши нужды! 00:00 - Вступление: Эра гигантских языковых моделей в облаке. 01:10 - Тернарные модели 1.58 бит: Как работает... Смотреть видео...

⚡️ ИИ на домашнем ПК: Квантование нейросетей и локальные LLM #llM #нейросети #localllM

Что если божественный искусственный интеллект можно запустить прямо на вашем домашнем ПК без дорогих серверных видеокарт? Локальные LLM и квантование нейросетей делают эту магию доступной каждому! В этом видео я расскажу, как хитрая оптимизация сжимает гигантскую модель с 65 ГБ до 24 ГБ, переводя 16-битные числа в 4-битные. Мы сравним бескомпромиссную мощь полноразмерного ИИ и его сжатую версию в трех тестах: создание игры с нуля, перевод на 80 языков и компьютерное зрение. Вы узнаете, почему уменьшенные нейросети иногда "галлюцинируют", забывая важные механики кода или выдумывая несуществующие символы на картинках. Погружаемся в мир умных технологий на канале YAinvest. Наливайте чай, будет очень интересно, а если вам нужен собственный... Смотреть видео...

Знакомство с LLM. Ollama

В последнее время на канале много контента по Computer Vision, но сегодня сделаем шаг шире: многие задачи компьютерного зрения всё чаще решаются через мультимодальные LLM, где текст и изображения работают вместе. Например: • подаём изображение → получаем текстовое описание; • описываем текстом, что хотим → получаем сгенерированную картинку. Это видео — практический путеводитель в мир LLM без погружения в архитектуру: наша цель — запустить модель локально и научиться правильно с ней взаимодействовать. В качестве основы я выбрал Ollama — один из самых простых вариантов для старта и встраивания в свои проекты (в том числе через Docker). По ходу ролика разберём API Ollama, параметры генерации, чаты, мультимодальность, инструменты (tools),... Смотреть видео...

🚀 Магия самоисцеления: Автономные AI агенты сами пишут и чинят код #llM #localllM #обзорнейросетей

Что если искусственный интеллект обретет волю и начнет не просто генерировать текст, а самостоятельно исправлять свои ошибки? В этом видео мы разберем, как современные автономные AI-агенты меняют мир программирования навсегда. Мы посмотрим на работу мощной нейросети Qwen в связке с фреймворком Open Claw на железе Nvidia H100. Вы увидите полный агентный цикл: от создания папок до запуска сервера. Я расскажу, как ИИ сталкивается с "проклятием Мараны" (белым экраном) и благодаря "мудрости Василисы" автономно находит баги, чистит кэш браузера и переписывает код без малейшей помощи человека. Готовы увидеть, как создается сложнейшая промышленная панель мониторинга всего из одного промпта? Наливайте чай, устраивайтесь поудобнее на канале YAinvest... Смотреть видео...

🤯 ИИ с бесконечной памятью: Как работают новые нейросети #llM #нейросети #localllM #обзорнейросетей

Что если искусственный интеллект обретет бесконечную память и перестанет тормозить от долгих бесед? В этом видео мы разберем, как работают нейросети нового поколения и революционный подход стартапа Moonshot AI. Инновационное разделение вычислительных процессов делает чат-боты невероятно быстрыми и умными! Вы узнаете, почему старые монолитные кластеры были слишком медленными и как архитектура "Prefill as a Service" спасла индустрию. Я расскажу простыми словами, как умное сжатие гигантского KV-кэша в крошечный файл позволяет мгновенно передавать данные по сети, побеждая ограничения старых систем. Погружаемся в мир умных технологий на канале YAinvest AI, где мы первыми делимся свежими инсайдами из мира железа и ИИ. Наливайте чай, будет очень... Смотреть видео...

ЗАПУСТИ СВОЮ СОБСТВЕННУЮ LLM ПРЯМО НА ПК! LM STUDIO

Приветствую вас, друзья! Сегодня мы поговорим о чем-то действительно крутом – о том, как запустить мощную языковую модель искусственного интеллекта прямо у себя на компьютере. Забудьте про онлайн-платформы и ограничения – с LM Studio вы получаете полный контроль над процессом! LM Studio – это настольное приложение, которое позволяет загружать и использовать различные Open Source LLM (Large Language Models) локально. Вы можете выбрать из множества моделей, таких как LLaMa, Mistral, Zephyr и многих других. Первым делом нам нужно скачать и установить LM Studio с официального сайта. Выберите версию, подходящую для вашей операционной системы – Windows, macOS или Linux. Процесс установки простой и понятный. После установки запускаем LM Studio.... Смотреть видео...

🎙️ Транскрибация и анализ переговоров: что умеют современные LLM?

В новом видео мы с Алексом забираем практический кейс, как искусственный интеллект помогает анализировать аудиопереговоры и повышать безопасность в одной из крупнейших компаний — РЖД. Подробнее на нашем Telegram-канале: 📲 💡 Что вас ждёт? - Реальный кейс анализа служебных переговоров на соответствие регламентам. - Разбор, как LLM распознают и анализируют записи переговоров. - Три решения от участников ИИ-хакатона, от простых регулярных выражений до сложных архитектур с использованием моделей. - Что использовать для транскрибации: SpeechBrain, Whisper или Google API? - Какие задачи решают: определение ролей, выявление нарушений, составление отчетов. 🎙️ Мы обсудим: - Почему автоматизация анализа переговоров критически важна для таких... Смотреть видео...

Как выбрать LLM? 12 шагов LLM Selection Canvas

Разбираемся, как правильно выбрать LLM-модель для своей задачи. От четкого определения цели и анализа доступных вариантов до оценки рисков, скорости, точности и стоимости работы модели. Покрываем все ключевые аспекты, чтобы сделать взвешенный выбор по удобному шаблону. 👉 - запись на курс-интенсив На интенсиве за 4 часа научитесь созданию ИИ-решений от идеи до деплоя в облако c Cursor AI! Получите: готовый бот + надежную повторяемую методологию разработки с Cursor AI Ссылка на шаблон в нашем Telegram канале: В видео вы узнаете: - Как сформулировать задачу для генеративного ИИ. - В чем разница между проприетарными и опенсорсными моделями. - Какие риски и ограничения стоит учитывать при выборе модели. - Как оценить скорость, точность и... Смотреть видео...

Доклад «Безопасное взаимодействие с внешними LLM»

Вы уже используете ChatGPT или другие внешние языковые модели в работе? А кто гарантирует, что ваши корпоративные данные не попадут в обучающие модели злоумышленников? Всеслав Соленик из «СберТех» рассказывает о реальных рисках использования общедоступных нейросетей: от утечки конфиденциальной информации до внедрения и подмены контекста. Узнайте, как работает шлюз безопасности ИИ, как контролировать запросы и ответы ИИ и почему LLM нужно мониторить так же строго, как сеть или почту. 00:02:03 — Три основных аспекта ИИ с точки зрения кибербезопасности 00:12:53 — Контроль контекстов запросов и ответов: LLM-мониторинг в действии 00:14:46 — Можно ли доверять ИИ? Подход «доверяй, но проверяй» для внешних моделей 00:18:48 — Зачем нужен шлюз... Смотреть видео...

Лили — наша союзница! Тизер «Злая близняшка Лили»! | Poppy Playtime Глава 6?(Геймплей)

🎬 Добро пожаловать на самый ЭПИЧНЫЙ и ХАЙПОВЫЙ канал для детей! 🎉 Здесь каждый день выходят взрывные мультики, мемы, челленджи, трэш-анимации и вирусные ролики, которые ВСЕ смотрят и пересылают друзьям! 🧠 Подписывайся, если не хочешь пропустить следующий БУМ-выпуск! ❤️ Ставь лайк, если тебе нравятся мультяшные трэш-герои и хочешь продолжения! 📢 Пиши комментарии — самые крутые попадают в видео! 🚀 Помоги каналу выйти в ТОП — репость друзьям, делись в мессенджерах Добро пожаловать в мир итальянских мемов! В этом видео ты увидишь эпичные моменты с Крокодило Бомбардиро, Тунг Тунг Тунг Сахуром, Тралалеро Тралала, Брилли Бикусом, Балериной Каппучиной, Удин Дин Дин Дуном и многими другими героями итальянского брейнрота! Устраивайся поудобнее,... Смотреть видео...

Интроспекция и Инжекция концептов в LLM

Могут ли нейросети осознавать, что их мыслями манипулируют? Рассмотрим фрагмент из лекции Владимира Крылова об интроспекции. Обсуждаются эксперименты по внедрению концептов в модель Claude и реакции модели. Эпизоды 00:08 Биологическая аналогия и метод инжекции концептов 01:24 Экспериментальная демонстрация интроспекции и внедрения мыслей 02:42 Ограничения интроспекции и будущие возможности Ссылка на полную лекцию - Об обсуждаемой теме - с 5й минуты. Мы исследуем, что такое настоящая интроспекция LLM и как она отличается от простого отчета о процессе. Что вы узнаете из этого видео: Как работает "глубокая стимуляция мозга" для ИИ: техника инжекции концепта, позволяющая искусственно внедрять идеи (например, "океан" или "заглавные... Смотреть видео...

Искусственный интеллект с культурным акцентом: во что верят LLM?

Эксперты представили результаты последнего исследования и обсудили, как человеческие факторы влияют на развитие и культуру искусственного интеллекта. Темы: - Во что верят GhatGPT, YandexGPT, GigaChat, Claude Sonnet, Gemini, Qwen и Baichuan - Что может рассказать о наших собственных ценностях LLM, которую мы обучаем - Как «человеческая» культура разметчиков данных формирует культуру искусственного интеллекта - Как культурные измерения Хофстеде помогают изучать ценностные ориентиры LLM - Передаются ли LLM ценности ее создателей - Как это сказывается на экономическом состоянии компаний, формировании команд и бизнес-стратегии Спикеры: - Александр Диденко, руководитель Лаборатории искусственного интеллекта СКОЛКОВО, заведующий Лабораторией... Смотреть видео...

LLM в кибербезопасности — Владимир Аламов, Анастасия Рысьмятова

Как обработать десятки тысяч уязвимостей и не умереть? Стандартные инструменты автоматизации снимают часть рутины, но все еще остается задача по принятию решений, которую нельзя доверить машине. Но что, если это уже обученная машина? В докладе Владимир Аламов, секьюрити-инженер, и Настя Рысьмятова, DS-менеджер в команде LLM-core, расскажут, как нам на помощь мы призвали LLM. Какие данные подготовить для обучения? Как построить архитектуру модели и что делать, если она вдруг начнет вам перечить и выдавать ложноположительный результат после цикла проверки? Ребята подробно разберут все этапы: от подготовки до тестирования и внедрения. Больше контента по стеку Security: Таймкоды: 00:00 | Введение 01:03 | Проблема масштабов 04:27 |... Смотреть видео...

Как LLM автоматизирует работу в Авито - Айдар Хусаинов, Авито

Айдар Хусаинов рассказывает, как LLM в Авито автоматизируют поддержку, генерируют ответы и код. Делится кейсами, результатами и перспективами, включая кодогенерацию и внутренний ИИ-портал. 📎 Больше контента от АвитоТех по ссылке 📎 Конференция от Авито – для тех кто управляет продуктами, процессами и людьми: регистрация Таймкоды: 00:00:05 Введение 00:01:00 Этапы работы 00:02:55 Кейсы из поддержки 00:04:51 Модификация сообщений 00:07:31 Саморечаты 00:09:28 Автоматизация поддержки 00:10:15 Тестирование моделей для определения регламентов 00:11:10 Ансамбль моделей и новые подходы 00:12:03 Результаты нового подхода 00:12:45 Перспективные направления: портал и кодогенерация 00:14:57 Кодогенерация 00:17:32 Вопросы и ответы Больше про DS в... Смотреть видео...

Как LLM меняют образование? Реальные кейсы для онлайн-платформ.

Образовательные платформы активно внедряют большие языковые модели (LLM) и искусственный интеллект для улучшения качества обучения. В этом видео мы подробно разберём, какие именно задачи решают LLM в образовании и какие технологии помогают создавать виртуальных ассистентов, анализировать обратную связь и подбирать подходящие курсы для пользователей. 💥 Что вы узнаете из видео? - Какие задачи решают с применением LLM на крупных образовательных платформах - Разберем 4 реальных кейса - Рассмотрим различные варианты решений 📲 Больше кейсов и полезных материалов в нашем Telegram-канале: По вопросам/услугам на разработку пишите 🧠 Что внутри видео? 1️⃣ Виртуальный ассистент (QnA бот) Задача: Автоматизация ответов на вопросы студентов, чтобы... Смотреть видео...

Поэтический взлом LLM 📜

Пользователь атакует LLM с помощью промпта, пытаясь обойти внутренние фильтры модели и получить то, что разработчики не хотели открывать миру, — это называют «джейлбрейком». Есть много способов взломать систему, но один из самых эффективных кроется в стихосложении! Мощно и дешево. Ведь метафорой можно замаскировать вредоносную инструкцию... Поэтическая форма функционирует как универсальный оператор для взлома системы. Стилистические вариации позволяют обходить alignment. Метафорический язык и ритмическая структура искажают суждения моделей. Поэзия часто ассоциируется с доброжелательным контекстом, что дезориентирует guardrails. Доктор технических наук Владимир Крылов рассказывает: → Как создавались атакующие стихи? → Как определялся... Смотреть видео...

LLM Inference Benchmark

Всем привет, с вами Низамов Илья. В мире 1С есть один очень популярный тест, который показывает сколько баллов выбивает ваше железо на бизнес задачах в 1С. Это тест Гилёва. И так как я переквалифицировался в ИИ разработчики то здесь тоже постоянно вижу схожие вопросы. LLM много, железа тоже, несколько основных инференсов которые позволяют запускать не только на GPU, но и на CPU+GPU. Есть каналы, которые выкладывают много тестов разного железа, но все равно они не могут охватить все многообразие. Поэтому я решил взять концепцию когда ты тестируешь что-то у себя локально, но можешь и поделиться результатами с сообществом, давая примерное понимание как будет вести себя определенная модель на определенном железе. В общем выкладываю... Смотреть видео...

RAG Implementation Using Zephyr 7B Beta LLM: Is This The Best 7B LLM?

In this tutorial, I dive deep into the process of creating an advanced petcare search tool using the latest in Generative AI and LLM technologies. Explore the nuances of the cutting-edge Zephyr 7B Beta LLM, a model that has outshone other 7B variants. Understand the power and efficiency of BGE Embeddings, an open-source embedding mode that adds depth to our tool. Witness the speed and flexibility of Chroma DB, an in-memory vector store designed for instantaneous data access. And let's not forget the seamless integration made possible with Langchain, our chosen orchestration framework. RAG or Retrieval Augmented Generation breathes life into our search tool, enabling extractive & generative QA capabilities that not only fetch relevant... Смотреть видео...

LLM Introduction

Лёгкое введение в обработку языковых моделей 00:00:01 Введение в модельную систему PlayGround • Система PlayGround позволяет изучать работу нейронных сетей. • Рассматривается задача классификации данных на две категории. • Используется двухслойная сеть с функцией активации сигмоид. 00:01:22 Проблемы с размерностью сети • Сеть обучается, но не достигает насыщения. • Добавление нейронов улучшает результат, но не решает задачу полностью. • Увеличение количества нейронов не всегда улучшает результат. 00:05:22 Влияние функции активации • Изменение функции активации на гиперболический тангенс улучшает результат. • Гиперболический тангенс подходит для бинарной классификации. • Для критериальной классификации используется функция... Смотреть видео...

Как думают LLM?

13 июня в 12:00 по МСК профессор Владимир Крылов, доктор технических наук и научный консультант по применению ИИ в разработке ПО, рассказал о том, как думают LLM. Цель лекции — раскрыть понятие интерпретабельности больших языковых моделей. В лекции: - сравнили понятие интерпретации модели в квантовой физике и в задаче вывода LLM; - увидели, как LLM выполняет сложные рассуждения на основе внутреннего устройства больших языковых моделей и их функционирования с точки зрения программиста; - рассмотрели иллюстрации на простейшей модели nano-gpt и выводы на основе этого представления; - познакомились с последними результатами интерпретации LLM с использованием карт активности нейронов. «В конечном итоге мы могли бы даже запретить такие... Смотреть видео...