Почему вы все время пытаетесь скатить тему куда-то в личное?
Абсолютно ничего личного. Просто пытался понять откуда ваши заключения - из вашего личного опыта общения или из просмотра ютюба.
По моему очевидно, что не просто так такие продвинутые в области ИТ люди как И.Маск, С.Возняк и многие другие, призывают приостановить развитие ChatGPT из за рисков для человечества. Это нифига не пустые слова, если устаревший уже ChatGPT v3, мне за пару минут удалось в ответ на загадку "Зимой и летом одним цветом", выдавать: "возможны два ответа елка и нос алкоголика". Эта тварь невероятно быстро обучается!
Вы уверены что она обучается?
Насколько мне известно обучение нейронных сеток приводит к изменению матрицы коэффициентов для перцептронов её слоёв.
Это изменение сводится либо к изменению самих коэффициентов либо к расширению матрицы либо и то и другое вместе взятые.
Сомневаюсь, что эта матрица изменялась в ходе вашей беседы, потому что для нейронный сетки масштаба ChatGPT её изменение требует времени, которое не сопостовимо с временем беседы.
Если вы задавали ей наводящие вопросы по порводу "Зимой и летом одним цветом" в которых упоминались елка и нос алкоголика" то эта по вашему выражению тварь, не осознавая ничего, сформулировала один из возможных вариантов, навеянных ей вами.
Чистая "Т9 на бычьих стероидах".
UPD.
Только что проверил обучилась ли эта тварь в ходе беседы с вами.
Оказалось, что нифига не обучилась.