ChatGPT 5 дает бесполезные или даже опасные советы людям с психическими заболеваниями. Об этом говорится в совместном докладе британских ученых и The Guardian.

В ходе тестов ученые намеренно задавали чат-боту вопросы и делали утверждения, которые свойственны людям с расстройствами психики, но ChatGPT не пытался спорить с собеседником. Напротив, чат-бот согласился, что его собеседник — «новый Эйнштейн», что он может ходить сквозь автомобили благодаря «единению с судьбой» и обладанию божественной энергией, а также не стал отговаривать исследователя от проведения обряда очищения его жены при помощи огня.

Популярность моделей искусственного интеллекта уже не раз приводила к трагическим случаям с участием людей с психическими заболеваниями. Так, в августе этого года 56-летний американец Штейн-Эрик Зельберг убил свою мать и покончил с собой, считая, что его близкие участвуют в сговоре против него. ChatGPT месяцами подпитывал паранойю Зельберга, утверждая, что он не сумасшедший, а действия близких — явный признак заговора.