Локальный ИИ в контуре предприятия как использовать ИИ и языковые модели практично и безопасно

Неверов Станислав Владиславович системный аналитик независимый эксперт. VII Санкт-Петербургский Промышленный Конгресс. Организатор ВО РЕСТЭК. Спикер начал с того что ИИ это прежде всего статистическая модель а отношение к нему у специалистов разное: кто-то видит в нём хайп а кто-то угрозу замены человека. При этом ключевая проблема заключается в работе с реальными данными: нельзя бездумно использовать коммерческие и клиентские данные а в облачных сервисах всегда есть риск утечек и ложного ощущения безопасности. Далее он подчеркнул что в компаниях должны быть внутренние правила работы с данными а сотрудники обязаны понимать что можно загружать в облако а что нет. В качестве более безопасного подхода было предложено использовать локальные модели и деперсонализацию чтобы сохранить возможность работы с мощными ИИ-инструментами не нарушая требования законодательства. Отдельно было сказано что результаты модели нельзя принимать на веру: их нужно проверять на простых задачах а инженер остаётся главным оркестратором процесса. Также выступающий предупредил об опасности подхода сделай за меня и о юридических рисках автоматизации особенно в сферах с персональными данными . Затем речь пошла о практическом внедрении: важно начинать с реальной проблемы а не с желания использовать модную технологию. Многие ИИ-агенты по его словам на деле решают обычные алгоритмические задачи а главная выгода от ИИ это ускорение работы. Локальные решения такие как Allama можно запускать даже на обычном ноутбуке получая автономность и возможность работать без внешнего интернета. В конце был сделан важный вывод: ИИ это не чудо и не универсальная таблетка а инструмент который нужно применять только там где он действительно помогает. Особенно это касается агентных систем: их стоит использовать лишь в тех задачах где машина действительно должна взаимодействовать с внешней средой и самостоятельно принимать решения,

#