GenAI крайне неточен для использования в бизнесе
Большие языковые модели (LLM) не всегда точны при работе с корпоративными данными и теряют прозрачность по мере увеличения масштабов. В исследовании Стэнфорда показано, что происхождение данных, потребляемых LLM, становится трудноотслеживаемым, что создаёт проблемы для компаний и законодателей. Стэнфорд разработал систему индекса прозрачности LLM (FMTI), оценив 10 моделей. Средний рейтинг составил 37%.
Исследование Kaspersky показало, что 95% руководителей полагают, что сотрудники используют инструменты генеративного ИИ, но масштабы и цели их применения неясны. 59% выразили обеспокоенность рисками для защиты данных и утраты контроля над бизнес-процессами.