51246
Проклятые нейронные сети Для связи: @krasniy_doshik
Я сформулировал свои мысли о ChatGPT! Она мне напоминает того самого чувака, который никогда не скажет "я не знаю" или "я не умею", а просто возьмется за задачу, прошляпит сроки и подведёт всю команду.
В какой-то момент я полюбил обучаться с GPT. Иногда я прошу её объяснить разные сложные концепции простым языком, задаю уточняющие вопросы. Это действительно очень крутой способ узнать что-то новое, чем-то похожий на общение с настоящим ментором, у которого можно уточнить любой нюанс.
Но иногда, примерно через полчаса, ты натыкаешься на очевидно ложное утверждение. Нейросеть начинает "вести" и вместо того, чтобы сказать "я не знаю", она придумывает очень странные и далёкие от реальности истории. Начинаются те самые знаменитые "галлюцинации". В результате вся сессия обучения идет прахом, потому что сложно понять в какой момент начался дрифт, и она перестала говорить правду. Ведь тональность и убедительность рассказа не поменялись.
GPT - это просто языковая модель, которая сказав "А" обязана сказать и "Б". Она не умеет признаваться, что чего-то не знает, она просто не запрограммирована не знать. Добавим это в копилку слабостей ИИ, которую мы откроем, когда он начнет порабощать человечество.
Любопытно, что если общаться с GPT на русском, то как будто становится хуже. Возможно, где-то в модели произошло семантическое смешивание слов "расскажи", "опиши" и "перескажи", иначе я это объяснить не могу . Я попросил GPT пересказать сюжеты советских фильмов и не разочаровался.