Экспертное сообщество призывает OpenAI приостановить обучение GPT-4
30.03.2023
Источник:
PAYSPACE MAGAZINE
Опасения вызывает тот факт, что данный сервис создается практически при полном отсутствии государственного регулирования в данной области
Более тысячи отраслевых экспертов, включая Илона Маска и Стива Возняка, призвали на шесть месяцев приостановить работы по совершенствованию языковой модели следующего поколения GPT-4. В компанию было направлено открытое письмо с подписями многочисленных видных ученых и представителей бизнеса.
В тексте обращения говорится, что работы необходимо свернуть до момента разработки и запуска единых правил безопасноти для подобных высокотехнологичных продуктов. Авторы письма настаивают на необходимости выработки механизма управления рисками при создании языковых ИИ-моделей.
Также описаны пессимистичные сценарии для человечества и цивилизации в случае, если передовая технология выйдет из-под контроля. ЧП такого масштаба может обернуться политическими и экономическими потрясениями исторического масштаба.
«Письмо не идеально, но дух правильный: нам нужно замедли ться, пока мы лучше не поймем разветвления», — сказал почет ный профессор Нью-Йоркского университета Гэри Маркус, подписавший письмо.
По его словам, продвинутые языковые модели в ряде случаев могут навредить миллионам простых людей. Маркус также от отмечает, что корпорации становятся все более закрытыми, а контроль над их работами практически отсутствует, что делает невозможным защиту населения от их разработок.
Мы ранее сообщали, что китайский гигант онлайн-коммерции Alibaba готовится разделить свой бизнес на шесть различных направлений. Каждая компания получит возможность самостоятельно участвовать на рынке и привлекать финансирование в случае IPO.
Более тысячи отраслевых экспертов, включая Илона Маска и Стива Возняка, призвали на шесть месяцев приостановить работы по совершенствованию языковой модели следующего поколения GPT-4. В компанию было направлено открытое письмо с подписями многочисленных видных ученых и представителей бизнеса.
В тексте обращения говорится, что работы необходимо свернуть до момента разработки и запуска единых правил безопасноти для подобных высокотехнологичных продуктов. Авторы письма настаивают на необходимости выработки механизма управления рисками при создании языковых ИИ-моделей.
Также описаны пессимистичные сценарии для человечества и цивилизации в случае, если передовая технология выйдет из-под контроля. ЧП такого масштаба может обернуться политическими и экономическими потрясениями исторического масштаба.
«Письмо не идеально, но дух правильный: нам нужно замедли ться, пока мы лучше не поймем разветвления», — сказал почет ный профессор Нью-Йоркского университета Гэри Маркус, подписавший письмо.
По его словам, продвинутые языковые модели в ряде случаев могут навредить миллионам простых людей. Маркус также от отмечает, что корпорации становятся все более закрытыми, а контроль над их работами практически отсутствует, что делает невозможным защиту населения от их разработок.
Мы ранее сообщали, что китайский гигант онлайн-коммерции Alibaba готовится разделить свой бизнес на шесть различных направлений. Каждая компания получит возможность самостоятельно участвовать на рынке и привлекать финансирование в случае IPO.