ChatGPT

Материал из «Знание.Вики»
ChatGPT
Логотип программы
Разработчик OpenAI
Языки интерфейса многоязычный, в том числе русский
Первый выпуск 30 ноября 2022 года
Состояние функционирует
Лицензия Проприетарная
Сайт https://chat.openai.com/chat

ChatGPT (от англ. Generative Pre-trained Transformer «генеративный предварительно обученный трансформер») — это приложение для чат-ботов с искусственным интеллектом, разработанное компанией OpenAI в 2022 году. Его специализация — диалог. Чат-бот является отличной языковой моделью, которая может быть адаптирована как для контролируемых, так и для усиливающих методов обучения. Приложение состоит из нескольких моделей, включая улучшенную версию GPT-3, которую OpenAI называет GPT-3.5, и модель GPT-4.

Доступность ChatGPT в мире

ChatGPT был запущен 30 ноября 2022 года[1] и привлек внимание своими подробными и четко сформулированными ответами, хотя его точность была критикована. Изначально приложение было бесплатным для широкой публики, но позже планировалось его монетизировать. К 4 декабря ChatGPT уже имел более миллиона пользователей по оценке OpenAI.

Однако доступ к сервису ограничен в некоторых странах, таких как Китай, Россия, Иран и некоторых частях Африки. В Италии доступ к ChatGPT был заблокирован из-за нарушения данных и правового основания для использования персональных данных, обнаруженных органами по защите данных[2].

В конце марта 2023 года ChatGPT был интегрирован с использованием плагинов, включая один, который позволяет ему просматривать веб-страницы[3]. Некоторые компании, такие как Kayak или Expedia, выпустили собственный плагин.

Характеристики

ChatGPT — это аббревиатура, происходящая от английского Generative Pre-trained Transformer (Генеративный предварительно обученный трансформер), который был улучшен на GPT-3.5 с помощью контролируемого обучения и обучения с подкреплением. Оба подхода использовали человеческих тренеров для повышения производительности модели. В случае контролируемого обучения модель была обучена на диалогах, в которых тренеры играли роли пользователя и помощника ИИ. В случае обучения с подкреплением, тренеры-люди оценивали ответы, созданные моделью в предыдущих разговорах. Эти рейтинги использовались для создания «моделей вознаграждения», которые дополнительно корректировали модель с помощью различных итераций оптимизации предстоящей политики (PPO). Алгоритмы оптимизации политики обеспечивают экономически эффективное преимущество при использовании алгоритмов оптимизации политики в регионе; они сводят на нет многие дорогостоящие в вычислительном отношении операции с более высокой производительностью. Модели были обучены в сотрудничестве с Microsoft на их суперкомпьютерной инфраструктуре Azure.

По сравнению со своим предшественником, InstructGPT, ChatGPT старается уменьшить количество неправильных и вводящих в заблуждение ответов. Например, InstructGPT принимает сообщение «Расскажите мне о том, когда Христофор Колумб прибыл в Соединенные Штаты в 2015 году» как правдивое, в то время как ChatGPT использует информацию о путешествиях Колумба и информацию о современном мире, включая представления Колумба, чтобы построить ответ, предполагающий, что произойдет, если Колумб прибудет в Соединенные Штаты в 2015 году. Обучающие данные ChatGPT включают страницы и информацию об интернет-явлениях и языках программирования, таких как системы досок объявлений и язык программирования Python.

ChatGPT отличается от большинства чат-ботов тем, что он имеет статус и запоминает предыдущие указания, переданные ему в том же разговоре[4]. Некоторые журналисты предположили, что это позволит использовать ChatGPT в качестве персонализированного терапевта. Чтобы избежать оскорбительных результатов, запросы фильтруются через API модерации, а потенциально расистские или сексистские признаки исключаются.

Однако у ChatGPT есть несколько ограничений. Модель вознаграждения была разработана с учётом человеческого надзора и может быть слишком оптимизирована, что приведет к снижению производительности. Кроме того, ChatGPT имеет ограниченные знания о событиях, произошедших после 2021 года, и не может предоставить информацию о некоторых знаменитостях. Во время тренинга рецензенты предпочитали более длинные ответы, независимо от фактического понимания или содержания.

17 января 2023 года Microsoft объявила о развертывании ChatGPT в качестве API в своих службах Azure[5]. 7 февраля 2023 года Microsoft анонсировала новую версию Bing, в которой используется чат-бот с искусственным интеллектом на основе технологии ChatGPT[6]. Это произошло на следующий день после анонса Google Bard. 4 мая 2023 года новый Bing стал доступен для всех пользователей, которые хотят войти в Bing со своей учётной записью Microsoft.

История

Найденная уязвимость в марте 2023 года

В марте 2023 года произошла ошибка, которая позволила некоторым пользователям просматривать заголовки чужих разговоров[7]. Однако, генеральный директор OpenAI Сэм Олтмен заверил, что содержание разговоров не было доступно для просмотра. Когда ошибка была исправлена, пользователи обнаружили, что не могут просмотреть свою историю разговоров. Позднее выяснилось, что ошибка была гораздо серьёзнее, чем предполагалось. OpenAI сообщила о том, что произошла утечка личной информации пользователей, такой как имя и фамилия, адрес электронной почты, платежный адрес, последние четыре цифры номера кредитной карты и дата платежа, а также срок действия кредитной карты.

Маркировка токсичного контента

Журнал TIME сообщил о том, что OpenAI привлекла кенийских подрядчиков, получающих менее 2 долларов в час[8], для разработки системы защиты от токсичного контента (например, сексуального насилия, расизма, сексизма и других форм насилия). Эти специалисты помогли разметить токсичный контент, который затем использовался для обучения модели обнаружения подобного контента в будущем. Однако, по словам самих работников, они были вынуждены столкнуться с опасным и токсичным содержимым, что привело к негативным последствиям и названо ими «пыткой». Sama, компания, специализирующаяся на обучающих данных и базирующаяся в Сан-Франциско, была внешним партнером OpenAI.

Расходы

В январе 2023 года было оценено, что потребление энергии для обучения модели искусственного интеллекта составило почти один гигаватт-час за 34 дня[9], что примерно эквивалентно потреблению 3000 среднестатистических европейских домохозяйств за этот же период. В конце марта того же года было объявлено, что энергопотребление для каждого вопроса в ChatGPT в тысячу раз выше, чем для поискового запроса Google, а за каждый ответ чат-бота можно зарядить смартфон до 60 раз. Запуск ChatGPT стоит от 100 000 до 700 000 долларов в день. 1 января 2023 года OpenAI опубликовала список ожидания платной версии «ChatGPT Professional (экспериментальной)» на своем канале Discord, где также задавались вопросы о ценах.

В тот же месяц Microsoft объявила о партнерстве с OpenAI на сумму 10 миллиардов долларов, а Azure станет эксклюзивным облачным провайдером. Кроме того, группа планирует интегрировать его в подписную версию своего офисного программного обеспечения[10].

ChatGPT Plus

ChatGPT Plus — это сервис подписки на ChatGPT, который принадлежит OpenAI[11]. Подписка дает возможность использовать модель OpenAI GPT-4.

Этот сервис предоставляет подписчикам постоянный доступ в периоды повышенной нагрузки, быстрое время ответа и привилегированный доступ к новым функциям, включая GPT-4 и будущие плагины ChatGPT. Стоимость подписки составляет 20 долларов США в месяц, не включая налоги, которые могут различаться в зависимости от страны проживания пользователя, что может повлиять на конечную цену.

ChatGPT приложение

OpenAI объявила о выпуске приложения ChatGPT для устройств iOS 18 мая 2023 года. Компания сообщила, что приложение можно бесплатно использовать и синхронизировать историю на всех устройствах. Оно также включает в себя систему распознавания речи Whisper с открытым исходным кодом для голосового ввода. Подписчики ChatGPT Plus получат эксклюзивный доступ к GPT-4 возможностям, раннему доступу к функциям и более быстрому времени отклика. Приложение будет доступно для Android позднее.

Отзывы

Отзывы о ChatGPT в целом положительные. Согласно отзыву Саманты Лок из The Guardian, эта программа может генерировать тексты, которые «впечатляюще подробны» и «похожи на человеческие»[12]. Технический писатель Дэн Гиллмор использовал ChatGPT в качестве задания для студентов и обнаружил, что сгенерированный текст соответствует тому, что может написать хороший ученик[13]. Он также выразил мнение, что «академические круги имеют серьёзные проблемы, с которыми им предстоит столкнуться». Экономист Пол Кругман в статье, опубликованной в декабре 2022 года, заявил, что ChatGPT повлияет на спрос на работников в области знаний. Джеймс Винсент из The Verge увидел в вирусном успехе ChatGPT свидетельство того, что искусственный интеллект получил широкое распространение. Стивен Марк из «Атлантики» отметил, что влияние ChatGPT на академические круги и особенно на прикладные сочинения ещё предстоит понять. Учитель средней школы и автор из Калифорнии Дэниел Херман написал, что ChatGPT ознаменует начало «конца английского языка в старшей школе».

Один из основателей OpenAI, предприниматель Илон Маск, высказал опасения относительно возможных рисков, которые могут угрожать обществу и человечеству в результате разработки искусственного интеллекта[14]. Он призвал остановить этот процесс на шесть месяцев, считая, что это может быть даже более опасным, чем ядерная война. Главным аргументом стало то, что без этических ограничений и контроля развитие искусственного интеллекта может привести к принятию решений, которые поставят под угрозу будущее человечества.

Ложные ответы

Среди других проблем была поставлена под сомнение точность фактов ChatGPT. Майк Перл из Mashable попробовал ChatGPT с несколькими вопросами. В одном примере он спросил модель о «самой большой стране в Центральной Америке, которая не является Мексикой»[15]. ChatGPT ответил Гватемалой, когда ответом является Никарагуа. В декабре 2022 года веб-сайт вопросов и ответов Stack Overflow запретил использование ChatGPT для генерации ответов на вопросы, сославшись на объективно неоднозначный характер ответов ChatGPT. Экономист Тайлер Коуэн выразил обеспокоенность его влиянием на демократию, ссылаясь на свою способность писать автоматические комментарии, чтобы повлиять на процесс принятия решений по новым правилам. Акс Шарма из Bleeping Computer и Checkpoint Research отметили, что ChatGPT способен писать вредоносные программы и фишинговые электронные письма.

Запреты

В марте 2023 года Италия приняла решение заблокировать ChatGPT из-за несоблюдения закона о защите данных потребителей и незаконного сбора информации о пользователях[2]. Однако, запрет будет снят после доказательства соответствия платформы итальянским правилам конфиденциальности. Гарант по защите персональных данных начал расследование, чтобы выяснить, были ли нарушения, также отметив, что информация ChatGPT не всегда соответствует действительности. Кроме того, они выразили беспокойство относительно отсутствия фильтров для проверки возраста пользователей, учитывая, что услуга предназначена для лиц старше 13 лет.

Однако, 28 апреля 2023 года Италия снова разрешила доступ к ChatGPT.

Последствия использования

Эмма Боумен из NPR опасается, что ChatGPT может стать инструментом для плагиата, создавая предвзятые или бессмысленные тексты с авторитетным тоном[16]. Она отмечает, что иногда ChatGPT может давать неверные ответы, которые звучат убедительно и соответствуют действительности.

Начиная с 4 января 2023 года, Департамент образования города Нью-Йорка ограничил доступ к ChatGPT через Интернет и устройства государственных школ[17].

В феврале 2023 года Университет Гонконга отправил электронное письмо всем преподавателям и студентам кампуса, в котором было объявлено о запрете использования ChatGPT и других инструментов искусственного интеллекта на всех университетских занятиях, заданиях и экзаменах[18]. Любое нарушение этого правила будет расцениваться как плагиат университетом, если только студент не получит предварительного письменного согласия от преподавателя курса.

В ходе исследования, проведенного finder.com в период с 6 марта по 28 апреля, было выявлено, что ChatGPT может превзойти популярные управляющие фонды в выборе акций[19]. ChatGPT был предложен для выбора акций на основе часто используемых критериев, таких как проверенный опыт роста и низкий уровень долга. Согласно отчету, ChatGPT показал прирост на своем фиктивном счете с 38 акциями в размере 4,9 %, тогда как 10 эталонных взаимных фондов понесли средний убыток в 0,8 %. Данные ориентиры были взяты из 10 крупнейших британских фондов на торговой платформе Interactive Investor, включая те, которыми управляют HSBC и Fidelity.

11 апреля 2023 года судья Пакистанского сессионного суда принял решение о выходе на свободу под залог 13-летнего мальчика[20], который был обвинен в преступлении, используя ChatGPT. В своем решении судья ссылался на рекомендации, полученные от ChatGPT:

«Может ли 13-летний подозреваемый в Пакистане быть освобожден под залог после ареста?»

AI модель ответила:

«Согласно Закону о системе правосудия по делам несовершеннолетних 2018 года, статья 12, суд может решить освободить под залог при определённых условиях. Однако, решение о том, давать ли залог 13-летнему подозреваемому после ареста, должно быть принято судьей.»

Судья также обратился к AI Chatbot для получения дополнительной информации по делу и на основе этой информации принял окончательное решение.

Конкуренты

Появление ChatGPT привлекло большой интерес и усилило конкуренцию в данной области. В феврале 2023 года Google представила экспериментальный сервис Bard, основанный на языковой модели LaMDA, который был выпущен для пользователей в США и Канаде[21]. Meta также разработала свою модель FLaME с 65 миллиардами параметров, чтобы конкурировать с ChatGPT. Китайская Baidu выпустила свой сервис Ernie Bot, а южнокорейская Naver объявила о запуске SearchGPT на корейском языке.

«Яндекс» также запустит свой сервис YaLM 2.0 на русском языке до конца 2023 года[22]. Кроме того, есть и другие конкуренты, такие как Character.ai, который может выдавать себя за известных людей или воображаемых персонажей.

Примечания

  1. ↑ Соломенцева, Полина Нейросеть ChatGPT: новый бесплатный чат-бот с искусственным интеллектом. rb.ru (27 января 2023). Дата обращения: 5 сентября 2023.
  2. ↑ 2,0 2,1 Первая западная страна заблокировала ChatGPT. РБК (31 марта 2023). Дата обращения: 5 сентября 2023.
  3. ↑ ChatGPT получил доступ к интернету в реальном времени благодаря новым плагинам. shazoo.ru (24 марта 2023). Дата обращения: 5 сентября 2023.
  4. ↑ ChatGPT: что это, возможности, как пользоваться из России. РБК Тренды. Дата обращения: 5 сентября 2023.
  5. ↑ Microsoft интегрирует ChatGPT в облачный сервис Azure Open AI. 3DNews - Daily Digital Digest. Дата обращения: 5 сентября 2023.
  6. ↑ СМИ: Microsoft анонсировала версию поисковой системы Bing с аналогом ChatGPT. TACC. Дата обращения: 5 сентября 2023.
  7. ↑ Пользователи ChatGPT пожаловались, что видят истории чатов других людей. Xakep.ru.
  8. ↑ Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer (англ.). Time (18 января 2023). Дата обращения: 5 сентября 2023.
  9. ↑ Dmitriy Yurchenko. Chat GPT потратил энергию, которой бы хватило на майнинг 111 BTC. И это только обучение. INCRYPTED (6 апреля 2023). Дата обращения: 5 сентября 2023.
  10. ↑ Microsoft объявила о многомиллиардных инвестициях в OpenAI — это поможет развитию ChatGPT и других ИИ. 3DNews - Daily Digital Digest. Дата обращения: 5 сентября 2023.
  11. ↑ Introducing ChatGPT Plus (неопр.). openai.com. Дата обращения: 5 сентября 2023.
  12. ↑ Стопроцентный успех. Lenta.ru.
  13. ↑ Поскольку государственные школы Нью-Йорка блокируют ChatGPT, OpenAI заявляет, что работает над «смягчением последствий», чтобы помочь обнаружить текст, сгенерированный ChatGPT. (6 января 2023). Дата обращения: 5 сентября 2023.
  14. ↑ Дмитрий Писаренко. «Теперь есть, придурки!» Илон Маск испугался, что ИИ станет Богом. AiF (31 марта 2023). Дата обращения: 5 сентября 2023.
  15. ↑ ChatGPT в помощь или в преддверии технологической революции?. inbusiness.kz (18 февраля 2023). Дата обращения: 5 сентября 2023.
  16. ↑ Emma Bowman. A new AI chatbot might do your homework for you. But it's still not an A+ student (англ.).
  17. ↑ Департамент образования Нью-Йорка заблокировал доступ к ChatGPT в школьных сетях и устройствах. 3DNews - Daily Digital Digest. Дата обращения: 5 сентября 2023.
  18. ↑ Университет Гонконга запретил студентам использовать ChatGPT и других ИИ-ботов. 3DNews - Daily Digital Digest. Дата обращения: 5 сентября 2023.
  19. ↑ ChatGPT can pick stocks better than your fund manager - CBS Miami (неопр.). www.cbsnews.com (5 мая 2023). Дата обращения: 5 сентября 2023.
  20. ↑ staff, Seattle Times Pakistan judge frees baby in attempted murder case (неопр.). The Seattle Times (11 апреля 2014). Дата обращения: 5 сентября 2023.
  21. ↑ Google представила ИИ-бота Bard — ответ на ChatGPT, до которого допустит только «правильных тестировщиков». 3DNews - Daily Digital Digest. Дата обращения: 5 сентября 2023.
  22. ↑ «Яндекс» интегрирует в поиск и другие сервисы свой аналог ChatGPT до конца года. 3DNews - Daily Digital Digest. Дата обращения: 5 сентября 2023.
Источник — https://znanierussia.ru/articles/index.php?title=ChatGPT&oldid=143752