Тушканов из Kaspersky предупредил о галлюцинациях нейросетей
Различные нейросети становятся все более популярными среди людей. Они находят применение в самых разных сферах, в том числе в медицине. При этом врачи относятся к использованию ИИ в большинстве случае негативно. Это связано с тем, что у нейросетей могут возникать галлюцинации. Об этом рассказал эксперт лаборатории Kaspersky Владислав Тушканов.
window.yaContextCb.push(()=>{
Ya.Context.AdvManager.render({
renderTo: 'yandex_rtb_R-A-117754-33',
blockId: 'R-A-117754-33'
})
})
Источник изображения: Flickr.com
В данном случае галлюцинации - это специальный термин, описывающий ситуацию, когда большая языковая модель, состоящая из нейронной сети со множеством параметров, генерирует текст, в котором присутствует не соответствующая действительности фактологическая информация. Сам Владислав Тушканов уже столкнулся с данной проблемой. Однажды он попросил ИИ порекомендовать ему музыку. Модель сгенерировала несуществующее название музыкального альбома группы, которая ему нравилась. Эксперт потратил немало времени на поиски этой пластинки на просторах Сети, однако в итоге пришел к выводу, что это была галлюцинация нейросети.
Источник: www.gazeta.ru
Яндекс новости 📅 Сегодня, 13:12 (window); window.yaContextCb.push(()=>{ Ya.Context.AdvManager.render({ "blockId": "R-A-6081369-1", "renderTo": "yandex_rtb_R-A-6081369-1", "type": "feed" }) })
window.yaContextCb.push(()=>{
Ya.Context.AdvManager.render({
renderTo: 'yandex_rtb_R-A-117754-33',
blockId: 'R-A-117754-33'
})
})
Источник изображения: Flickr.com
В данном случае галлюцинации - это специальный термин, описывающий ситуацию, когда большая языковая модель, состоящая из нейронной сети со множеством параметров, генерирует текст, в котором присутствует не соответствующая действительности фактологическая информация. Сам Владислав Тушканов уже столкнулся с данной проблемой. Однажды он попросил ИИ порекомендовать ему музыку. Модель сгенерировала несуществующее название музыкального альбома группы, которая ему нравилась. Эксперт потратил немало времени на поиски этой пластинки на просторах Сети, однако в итоге пришел к выводу, что это была галлюцинация нейросети.
По словам Тушканова, подобные ошибки в таких сферах как юриспруденция, медицина или кибербезопасность могут иметь катастрофические последствия. По этой причине доверить ИИ-моделям на 100% людям точно не стоит. При этом специалист отметил, что проблема галлюцинаций и нейросетей является фундаментальной и в ближайшее время она не исчезнет.
Между тем в России появляется все больше новых специальностей, спровоцированных развитием нейросетей.
Бер Илья Леонидович, Рудой Андрей Владимирович, Транс, Благотворительный фонд социально признаны в РФ иностранными агентами. Автор: Нина ЛукашеваИсточник: www.gazeta.ru
Яндекс новости 📅 Сегодня, 13:12 (window); window.yaContextCb.push(()=>{ Ya.Context.AdvManager.render({ "blockId": "R-A-6081369-1", "renderTo": "yandex_rtb_R-A-6081369-1", "type": "feed" }) })
