Отцы нейросетей и ИИ теперь хотят сильно затормозить прогресс по абсурдным и надуманным причинам
23 октября в 10:36
5335
19
Основатели ИИ-индустрии бьют тревогу: Стив Возняк (Apple), Джеффри Хинтон и Йошуа Бенжио (отцы нейросетей) среди сотен подписантов открытого письма о запрете сверхразума ИИ. Инициатор — Future of Life Institute.
Авторы признают пользу технологий, но предупреждают о катастрофических рисках неконтролируемых экспериментов. Требуют паузу в разработках до доказанной безопасности и готовности общества. Подписанты разношёрстны: учёные, политики, музыканты, члены королевских семей — всех пугает неуправляемый разум.
Контекст: Инновационные инструменты ИИ могут принести беспрецедентное здоровье и процветание. Однако, наряду с инструментами, многие ведущие компании в области ИИ ставят своей заявленной целью создание сверхразума в ближайшее десятилетие, способного значительно превзойти людей практически во всех когнитивных задачах.
Это вызвало обеспокоенность, начиная от экономической ненужности и лишения власти людей, потери свободы, гражданских прав, достоинства и контроля, до рисков национальной безопасности и даже потенциального исчезновения человечества. Приведенная ниже краткая формулировка призвана консолидировать растущее число экспертов и общественных деятелей, выступающих против безоглядной гонки к сверхразуму.
Это вызвало обеспокоенность, начиная от экономической ненужности и лишения власти людей, потери свободы, гражданских прав, достоинства и контроля, до рисков национальной безопасности и даже потенциального исчезновения человечества. Приведенная ниже краткая формулировка призвана консолидировать растущее число экспертов и общественных деятелей, выступающих против безоглядной гонки к сверхразуму.
Другие публикации по теме
SIE объявила, что издаст первую игру, разработанную собственными силами Bad Robot Games — основанного в 2018 году при участии Tencent и Warner Bros. Games подразделения компании Джей Джей Абрамса.
Вчера в 17:33
266
2
Продажи через ИИ в сезон Чёрной пятницы достигли $51 млрд. Более половины покупателей ищут подарки с помощью нейросетей.
Вчера в 16:45
291
7
Развитие экспорта остаётся одной из ключевых задач российской игровой индустрии: внутренний рынок ограничен, а конкуренция с крупными международными студиями усложняет путь к самоокупаемости.
Вчера в 14:13
737
6