Ученые оценили возможную опасность искусственного интеллекта для человечества в будущем. Результаты исследований опубликованы в крупнейшем архиве электронных научных публикаций ArXiv.org, сообщает PRIMPRESS.
В международный коллектив ученых, проводивших исследования, вошли специалисты Университета Бата из Великобритании и Технического университета Дармштадта из Германии. Под руководством лингвиста, профессора компьютерных наук и директора исследовательской лаборатории Knowledge Processing Lab Ирины Гуревич эксперты попытались заставить большие языковые модели выполнять незнакомые им действия. Искусственный интеллект не имел примеров и знаний для того, чтобы выполнить указания, а потому оказался неэффективен.
«Модели следуют инструкциям и четко выполняют указания, однако они не способны отклоняться от основного плана. Вероятность выхода искусственного интеллекта из-под контроля низкая», – сообщила Ирина Гуревич.
Так ученые подтвердили, что на данный момент искуственный интеллект остается предсказуемым и контролируемым, несмотря на постоянное развитие. Он остается наиболее эффективным, только когда выполняет задачи на основе примеров.
Специалисты подчеркнули, что ИИ все равно может использоваться в преступных целях – для создания набравших популярность дипфейков и мошенничества при помощи имитации голоса и других махинаций. Однако это так же работает на базе определенных знаний и примеров, тогда как самостоятельно ИИ пока еще не настолько эффективен.
