"ИИ-апокалипсис никогда не случится" — говорит Дженсен Хуанг из NVIDIA

Генеральный директор NVIDIA Дженсен Хуанг в ходе беседы в подкасте Joe Rogan Podcast выразил свое мнение относительно опасений, что современные большие языковые модели (LLM) выйдут из-под контроля и превратятся в нечто вроде Терминатора.

Отвечая на вопрос о том, что ИИ может превзойти человеческий порог и заменить людей как "верховный вид", Хуанг заявил: "Этого не произойдет. Я считаю это крайне маловероятным". Однако он полностью верит в возможность создания машины, которая имитирует человеческий интеллект, способна понимать информацию и инструкции, разбивать задачи на части, решать проблемы и выполнять задания.

В ходе обсуждения был затронут недавний нашумевший пример, когда модель ИИ Claude Opus 4 пригрозила раскрыть внебрачные связи вымышленного инженера, чтобы предотвратить свое отключение (модель находилась в симулированной среде). Глава NVIDIA утверждает, что модель, вероятно, научилась этому действию из "текстового фрагмента", скорее всего, из "романа", и это не является примером сознательности.