Распространение генеративного ИИ повышает не только скорость доступа к информации, но и риски появления недостоверных данных. Эксперты фиксируют рост так называемых «галлюцинаций» нейросетей — случаев, когда ИИ генерирует убедительные, но вымышленные факты, ссылки и события.
Проблема уже затрагивает юриспруденцию, научную среду и медиа. Ошибки ИИ постепенно закрепляются в цифровом пространстве и могут использоваться для обучения новых моделей.
Антон Башарин, старший управляющий директор AppSec Solutions, отмечает:
«Когда ИИ становится единственным окном в мир, он неизбежно формирует вашу картину реальности. И это серьезнее, чем “пузыри соцсетей”, потому что ИИ воспринимается как нейтральный и объективный источник».
В AppSec Solutions подчеркивают, что развитие ИИ требует обязательной верификации данных и экспертного контроля. Один из наиболее эффективных подходов — гибридная модель, при которой нейросети автоматизируют обработку информации, а финальная проверка остается за специалистами.
Подробнее в Коммерсанте
Проблема уже затрагивает юриспруденцию, научную среду и медиа. Ошибки ИИ постепенно закрепляются в цифровом пространстве и могут использоваться для обучения новых моделей.
Антон Башарин, старший управляющий директор AppSec Solutions, отмечает:
«Когда ИИ становится единственным окном в мир, он неизбежно формирует вашу картину реальности. И это серьезнее, чем “пузыри соцсетей”, потому что ИИ воспринимается как нейтральный и объективный источник».
В AppSec Solutions подчеркивают, что развитие ИИ требует обязательной верификации данных и экспертного контроля. Один из наиболее эффективных подходов — гибридная модель, при которой нейросети автоматизируют обработку информации, а финальная проверка остается за специалистами.
Подробнее в Коммерсанте
