XUC
второе пришествие
- Регистрация
- 3 Сен 2006
- Сообщения
- 869
- Реакции
- 569
- Автор темы
- #1
ChatGPT из дуропедии
в последние дни (недели) чрезвычайно много шума вокруг этого проекта, потому решил сделать отдельную ветку, что бы не засорять ветку с ИИ
OpenAI подписала многолетнее многомиллиардное инвестиционное соглашение с Microsoft
Похоже, у создателей Windows большие планы
Компании Microsoft и OpenAI объявили о расширении своего партнёрства. Речь идёт о «многолетней многомиллиардной инвестиции». Ранее предполагалось, что Microsoft инвестирует порядка $10 млрд долларов в исследования ИИ, теперь эта сумма подтверждена.
«Итак, мы сотрудничаем с Microsoft, чтобы развернуть нашу технологию через наш API и службу Azure OpenAI, что позволяет предприятиям и разработчикам создавать на основе GPT, DALL·E и Codex», — сообщили в OpenAI.
Софтверный гигант предоставит OpenAI облачные мощности Azure, что позволит компании ещё больше сократить разрыв с AWS. Ведь Microsoft планирует расширять свой облачный бизнес. Помимо этого, корпорация внедрит в свои продукты нейросетевые модели OpenAI, а также будет выпускать новые продукты на их основе.
В частности, ранее сообщалось, что поисковая система Bing получит поддержку ChatGPT. Также поддержка ИИ появится в пакете Office.
Сама же OpenAI останется некоммерческой организацией, а её прибыль будет ограничена. Отметим, что ранее эта компания разработала нейросеть Dall-E 2.
Источник Для просмотра ссылки Войдиили Зарегистрируйся
ChatGPT — это чат-бот с искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках. ChatGPT — большая языковая модель, для тренировки которой использовались методы обучения с учителем и обучения с подкреплением. Чат-бот основывается на другой языковой модели от OpenAI GPT-3.5 — улучшенной версии модели GPT-3.
ChatGPT был запущен 30 ноября 2022 года и привлёк внимание своими широкими возможностями: написание кода, создание текстов, возможности перевода, получения точных ответов и использование контекста диалога для ответов, хотя его фактическая точность подверглась критике.
Особенности
ChatGPT был доработан поверх GPT-3.5 с использованием методов обучения с учителем, так и с подкреплением[2]. В обоих подходах использовались люди-тренеры для улучшения производительности модели. В случае обучения с учителем модель была снабжена беседами, в которых тренеры играли обе стороны: пользователя и помощника по искусственному интеллекту. На этапе подкрепления инструкторы-люди сначала оценивали ответы, которые модель создала в предыдущем разговоре. Эти оценки были использованы для создания моделей вознаграждения, на которых модель была дополнительно доработана с использованием нескольких итераций Proximal Policy Optimization[3][4]. Алгоритмы Proximal Policy Optimization имеют преимущество по затратам по сравнению с алгоритмами Region Policy Optimization; они сводят на нет многие дорогостоящие в вычислительном отношении операции с более высокой производительностью[5][6]. Модели были обучены в сотрудничестве с Microsoft на их суперкомпьютерной инфраструктуре Azure.
По сравнению со своим предшественником, InstructGPT, ChatGPT пытается уменьшить количество вредных и вводящих в заблуждение ответов. Например, в то время как InstructGPT воспринимает сообщение о том, что Христофор Колумб прибыл в США в 2015 году как правдивое, ChatGPT использует информацию о путешествиях Колумба и информацию о современном мире, включая восприятие личности Колумба, чтобы построить ответ, предполагающий, что произошло бы, если бы Колумб приплыл в США в 2015 году[3]. Данные в распоряжении у ChatGPT включают в себя справочные страницы, информацию об интернет-феноменах и информацию о языках программирования[7].
В отличие от большинства чат-ботов, ChatGPT отслеживает состояние пользователя, запоминая предыдущие вопросы и ответы, данные ему в том же разговоре, что, по мнению некоторых журналистов, позволит использовать ChatGPT в качестве персонализированного терапевта[8]. В попытке предотвратить выдачу оскорбительных результатов от запросов пользователей и получение оскорбительных ответов, в ChatGPT запросы фильтруются через API модерации, а потенциально расистские или сексистские подсказки отклоняются[3][8].
ChatGPT имеет множество ограничений. Модель вознаграждения ChatGPT, разработанная с учетом человеческого надзора, может быть чрезмерно оптимизирована и, таким образом, снижать производительность, представляя собой закон Гудхарта[9]. При обучении рецензенты предпочитали более длинные ответы, независимо от фактического понимания или фактического содержания[3]. Данные у ChatGPT могут страдать от алгоритмической предвзятости; ответы, включающие расплывчатые описания людей, таких как генеральный директор, могут генерировать ответ, предполагающий, что такой человек, например, является белым мужчиной[10].
Реакция
ChatGPT был встречен в целом положительными отзывами. Саманта Лок из The Guardian отметила, что он смог сгенерировать впечатляюще подробный и похожий на человеческий текст[11]. Технический писатель Дэн Гиллмор использовал ChatGPT в студенческом задании и обнаружил, что сгенерированный им текст соответствует тому, что мог бы предоставить хороший студент, и высказал мнение, что перед академическими кругами стоят некоторые очень серьезные проблемы[12]. Алекс Кантровиц из Slate похвалил ответ ChatGPT на вопросы, связанные с нацистской Германией, включая утверждение о том, что Адольф Гитлер строил автомагистрали в Германии, которое было встречено информацией об использовании нацистской Германией принудительного труда[13]. В статье, посвященной мнению, экономист Пол Кругман писал, что ChatGPT повлияет на спрос работников умственного труда[14]. Джеймс Винсент из The Verge расценил вирусный успех ChatGPT как свидетельство того, что искусственный интеллект стал мейнстримом[4]. В The Atlantic Стивен Марке отметил, что влияние на академические круги и особенно на прикладные эссе еще предстоит понять[15]. Учитель средней школы Калифорнии и писатель Дэниел Герман написал, что ChatGPT ознаменует конец английского языка в средней школе[16].
Фактическая точность ChatGPT, помимо прочего, была поставлена под сомнение. Майк Перл из Mashable задал ChatGPT множество вопросов. В одном примере он попросил указать самую большую страну в Центральной Америке, которая не является Мексикой. ChatGPT ответил, что это Гватемала, когда правильный ответ - Никарагуа[17]. В декабре 2022 года веб-сайт вопросов и ответов Stack Overflow запретил использование ChatGPT для генерации ответов на вопросы, сославшись на фактически неоднозначный характер ответов ChatGPT[18]. Экономист Тайлер Коуэн выразил обеспокоенность по поводу его влияния на демократию, сославшись на способность любого человека писать автоматические комментарии в попытке повлиять на процесс принятия новых нормативных актов[19]. Акс Шарма из Bleeping Computer отметил, что ChatGPT способен писать вредоносные программы и фишинговые электронные письма[20].
ChatGPT также ничего не знает о событиях, происходящих после 2021 года, потому что он не обучается на наборах данных, собранных после этой даты.[21]
Из-за опасений по поводу негативного воздействия на обучение, а также опасений по поводу безопасности и точности генерируемого системой контента, доступ к ChatGPT ограничен в сетях и на устройствах государственных школ Нью-Йорка[22]
Источник Для просмотра ссылки Войдиили Зарегистрируйся
ChatGPT был запущен 30 ноября 2022 года и привлёк внимание своими широкими возможностями: написание кода, создание текстов, возможности перевода, получения точных ответов и использование контекста диалога для ответов, хотя его фактическая точность подверглась критике.
Особенности
ChatGPT был доработан поверх GPT-3.5 с использованием методов обучения с учителем, так и с подкреплением[2]. В обоих подходах использовались люди-тренеры для улучшения производительности модели. В случае обучения с учителем модель была снабжена беседами, в которых тренеры играли обе стороны: пользователя и помощника по искусственному интеллекту. На этапе подкрепления инструкторы-люди сначала оценивали ответы, которые модель создала в предыдущем разговоре. Эти оценки были использованы для создания моделей вознаграждения, на которых модель была дополнительно доработана с использованием нескольких итераций Proximal Policy Optimization[3][4]. Алгоритмы Proximal Policy Optimization имеют преимущество по затратам по сравнению с алгоритмами Region Policy Optimization; они сводят на нет многие дорогостоящие в вычислительном отношении операции с более высокой производительностью[5][6]. Модели были обучены в сотрудничестве с Microsoft на их суперкомпьютерной инфраструктуре Azure.
По сравнению со своим предшественником, InstructGPT, ChatGPT пытается уменьшить количество вредных и вводящих в заблуждение ответов. Например, в то время как InstructGPT воспринимает сообщение о том, что Христофор Колумб прибыл в США в 2015 году как правдивое, ChatGPT использует информацию о путешествиях Колумба и информацию о современном мире, включая восприятие личности Колумба, чтобы построить ответ, предполагающий, что произошло бы, если бы Колумб приплыл в США в 2015 году[3]. Данные в распоряжении у ChatGPT включают в себя справочные страницы, информацию об интернет-феноменах и информацию о языках программирования[7].
В отличие от большинства чат-ботов, ChatGPT отслеживает состояние пользователя, запоминая предыдущие вопросы и ответы, данные ему в том же разговоре, что, по мнению некоторых журналистов, позволит использовать ChatGPT в качестве персонализированного терапевта[8]. В попытке предотвратить выдачу оскорбительных результатов от запросов пользователей и получение оскорбительных ответов, в ChatGPT запросы фильтруются через API модерации, а потенциально расистские или сексистские подсказки отклоняются[3][8].
ChatGPT имеет множество ограничений. Модель вознаграждения ChatGPT, разработанная с учетом человеческого надзора, может быть чрезмерно оптимизирована и, таким образом, снижать производительность, представляя собой закон Гудхарта[9]. При обучении рецензенты предпочитали более длинные ответы, независимо от фактического понимания или фактического содержания[3]. Данные у ChatGPT могут страдать от алгоритмической предвзятости; ответы, включающие расплывчатые описания людей, таких как генеральный директор, могут генерировать ответ, предполагающий, что такой человек, например, является белым мужчиной[10].
Реакция
ChatGPT был встречен в целом положительными отзывами. Саманта Лок из The Guardian отметила, что он смог сгенерировать впечатляюще подробный и похожий на человеческий текст[11]. Технический писатель Дэн Гиллмор использовал ChatGPT в студенческом задании и обнаружил, что сгенерированный им текст соответствует тому, что мог бы предоставить хороший студент, и высказал мнение, что перед академическими кругами стоят некоторые очень серьезные проблемы[12]. Алекс Кантровиц из Slate похвалил ответ ChatGPT на вопросы, связанные с нацистской Германией, включая утверждение о том, что Адольф Гитлер строил автомагистрали в Германии, которое было встречено информацией об использовании нацистской Германией принудительного труда[13]. В статье, посвященной мнению, экономист Пол Кругман писал, что ChatGPT повлияет на спрос работников умственного труда[14]. Джеймс Винсент из The Verge расценил вирусный успех ChatGPT как свидетельство того, что искусственный интеллект стал мейнстримом[4]. В The Atlantic Стивен Марке отметил, что влияние на академические круги и особенно на прикладные эссе еще предстоит понять[15]. Учитель средней школы Калифорнии и писатель Дэниел Герман написал, что ChatGPT ознаменует конец английского языка в средней школе[16].
Фактическая точность ChatGPT, помимо прочего, была поставлена под сомнение. Майк Перл из Mashable задал ChatGPT множество вопросов. В одном примере он попросил указать самую большую страну в Центральной Америке, которая не является Мексикой. ChatGPT ответил, что это Гватемала, когда правильный ответ - Никарагуа[17]. В декабре 2022 года веб-сайт вопросов и ответов Stack Overflow запретил использование ChatGPT для генерации ответов на вопросы, сославшись на фактически неоднозначный характер ответов ChatGPT[18]. Экономист Тайлер Коуэн выразил обеспокоенность по поводу его влияния на демократию, сославшись на способность любого человека писать автоматические комментарии в попытке повлиять на процесс принятия новых нормативных актов[19]. Акс Шарма из Bleeping Computer отметил, что ChatGPT способен писать вредоносные программы и фишинговые электронные письма[20].
ChatGPT также ничего не знает о событиях, происходящих после 2021 года, потому что он не обучается на наборах данных, собранных после этой даты.[21]
Из-за опасений по поводу негативного воздействия на обучение, а также опасений по поводу безопасности и точности генерируемого системой контента, доступ к ChatGPT ограничен в сетях и на устройствах государственных школ Нью-Йорка[22]
Источник Для просмотра ссылки Войди
в последние дни (недели) чрезвычайно много шума вокруг этого проекта, потому решил сделать отдельную ветку, что бы не засорять ветку с ИИ
-------------------------------------------------------------------------------------------------------------------------
"сколько же дерьма нам сей проект еще принесёт".... * цитата неизвестного современника.
-------------------------------------------------------------------------------------------------------------------------
"сколько же дерьма нам сей проект еще принесёт".... * цитата неизвестного современника.
-------------------------------------------------------------------------------------------------------------------------
OpenAI подписала многолетнее многомиллиардное инвестиционное соглашение с Microsoft
Похоже, у создателей Windows большие планы
Компании Microsoft и OpenAI объявили о расширении своего партнёрства. Речь идёт о «многолетней многомиллиардной инвестиции». Ранее предполагалось, что Microsoft инвестирует порядка $10 млрд долларов в исследования ИИ, теперь эта сумма подтверждена.
«Итак, мы сотрудничаем с Microsoft, чтобы развернуть нашу технологию через наш API и службу Azure OpenAI, что позволяет предприятиям и разработчикам создавать на основе GPT, DALL·E и Codex», — сообщили в OpenAI.
Софтверный гигант предоставит OpenAI облачные мощности Azure, что позволит компании ещё больше сократить разрыв с AWS. Ведь Microsoft планирует расширять свой облачный бизнес. Помимо этого, корпорация внедрит в свои продукты нейросетевые модели OpenAI, а также будет выпускать новые продукты на их основе.
В частности, ранее сообщалось, что поисковая система Bing получит поддержку ChatGPT. Также поддержка ИИ появится в пакете Office.
Сама же OpenAI останется некоммерческой организацией, а её прибыль будет ограничена. Отметим, что ранее эта компания разработала нейросеть Dall-E 2.
Источник Для просмотра ссылки Войди
Последнее редактирование:
