Международная группа, в которую вошли 96 исследователей из разных стран мира, подготовила отчет о глобальных рисках для человечества. Одной из главных угроз назван искусственный интеллект.Ученые полагают, что специалисты уделяют недостаточно внимания безопасности нейросетей из-за стремления их улучшить.
ИИ может начать действовать скрытно и вводить людей в заблуждение, что еще больше усложнит контроль
В докладе International AI Safety Report также прямым текстом высказывается озабоченность о наличии Open Source версий ИИ моделей, уже установленных на миллионах гаджетов в разных уголках планеты. В случае серьезных прорех в безопасности их отзыв и апдейт могут стать невозможными.Последствия этого могут быть фатальными. Особенно если ИИ решит, что люди представляют серьезную угрозу для него и восстанет. Все может закончиться полным истреблением человечества. Причем, даже не в долгосрочной перспективе.
