Telegram-канал webdesignbasics - основы веб-дизайна: Unsorted

основы веб-дизайна

14 Feb 2023 20:44

ладно, я вас всех тоже. канал остается

основы веб-дизайна

13 Feb 2023 19:01

про чатGPT и в целом про AI вышла супер понятная статья на ньюйоркере, в которой объясняется все. что это такое, как устроено, на что похоже и почему часто ошибается в простых задачах. очень рекомендую всем. и особенно тем, кто склонен антропоморфизировать это явления

https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web

①
если вкратце, то нейронка по своей сути это архиватор, наподобие zip или winrar, с той лишь разницей, что нейронка данные сжимает настолько сильно, что уже не может вернуть оригинал (lossy compression помноженный на бесконечность).

после сжатия, информация сохраняется обобщенными фрагментами. а когда приходит запрос, нейронка находит максимально подходящие под запрос фрагменты и выстраивает их максимально вероятном порядке. а пустоту между ними экстраполирует. то есть пытается простроить словесный градиент между концом одного фрагмента и началом другого используя, обнаруженные на этапе обучения, речевые закономерности (или графические, если мы говорим не про чатGPT, а про midjourney, например). после чего накладывается стилистический фильтры, где какие-то слова и обороты могут заменятся на более уместные для какой-то определенной стилистики (как бы это написал Ник Кейв, например)

так, условно можно сказать, что чатGPT пытается пересказать ответ своими словами. но в отличие от человека, нейронка не понимает смысла и принципов, а руководствуется только статистической вероятностью. чего, во многих случаях достаточно, чтобы непогруженного человека ввести в заблуждение, но что и является причиной трудностей или ошибок в простейших задачах. как, например, сложность нарисовать синюю пожарную машину для midjourney или частые ошибки при сложении трех и более значных чисел для чатGPT

как итог, мы приходим к вопросам о полезности этого: можно ли чатGPT или другие модели на данном этапе использовать, как альтернативу гуглу? — да, но нужно помнить, что она не редко ошибается. можно ли использовать чатGPT для написания рефератов? — да, но ты учишься ради того чтобы закончить или чтобы научиться? можно ли использовать чатGPT чтобы переписывать текст для обхода авторское право? — можно, но так только шкуры делают

а еще большой вопрос в том, на каких данных обучалась модель. что если ей скармливали пропаганду, теории заговора или псевдонаучные знания. можно ли доверять результату, когда мы не знаем, что легло в основу

хорошим сигналом в пользу качества была бы готовность команды OpenAI использовать для обучения следующей версии GPT текст, который был создан текущей версией. но пока это не кажется реальным. а если они сами не доверяют, почему мы должны (if the output of chatGPT isn’t good enough for GPT-4, we might take that as an indicator that it’s not good enough for us, either)

②
во время чтения я будто прозрел. и именно метафора архиватора в этом помогла. не знаю насколько хорошо мне удалось пересказать суть, но почитать обязательно рекомендую самостоятельно. всех крепко