Искусственный интеллект, или искусственный интеллект, уже много лет вызывает восхищение и страх, и теперь эксперт в этой области предупреждает, что призыв к шестимесячной паузе в разработке мощных систем — это лишь верхушка айсберга.
Элиэзер Юдковски, известный теоретик принятия решений из Исследовательского института машинного интеллекта, изучающий безопасность искусственного интеллекта, утверждает, что мы недооцениваем серьезность ситуации.
В недавней статье для Time Юдковски рассказывает, как быстро развивающиеся технологии могут превзойти человеческий интеллект и создать реальную угрозу для человечества.
Технический эксперт предупреждает о серьезной угрозе
Более 1600 видных деятелей, в том числе генеральный директор SpaceX, Tesla и Twitter Илон Маск, а также Стив Возняк, соучредитель Apple, подписали открытое письмо Института будущего жизни, призывающее правительство остановить разработка любой системы искусственного интеллекта, превосходящей текущую модель GPT-4.
Однако, по словам Юдковски, реальная проблема заключается не в создании человеческого конкурентного интеллекта, как говорится в письме. Вместо этого он утверждает, что большая опасность возникает, когда искусственный интеллект становится умнее людей.
Юдковски считает, что создание сверхчеловечески умного ИИ в нынешних обстоятельствах приведет к катастрофическому исходу, который приведет к гибели всех людей на планете.
«Не в смысле «может быть, какая-то отдаленная случайность», а в смысле «очевидно, что это произойдет», – подчеркнул он.
ИИ: «Выключи все это»
Решение, по словам Юдковски, – глобальные усилия, направленные на то, чтобы остановить разработку мощных систем искусственного интеллекта. Он подчеркнул, что прекращение разработки ИИ должно иметь приоритет даже над предотвращением обмена ядерными ударами.
«Закройте все это», — написал он. «Никаких исключений для правительств и вооруженных сил».
Он также предложил международное сотрудничество между соперничающими странами, в том числе США и Китаем, чтобы снизить риск масштабных тренировок ИИ.
Искусственный интеллект стал горячей темой в последние месяцы, и его потенциал и подводные камни оказались в центре внимания.
Растущая популярность инструментов для создания изображений на основе искусственного интеллекта, таких как Midjourney, и широкое распространение ChatGPT от OpenAI, большой языковой модели, способствовали росту известности этой технологии.
Майкрософт, крупный игрок в технологической отрасли, лидирует в расширении вариантов использования ChatGPT. Компания подписала контракт с OpenAI на 10 миллиардов долларов и интегрировала языковую модель со своими популярными сервисами Bing и Office 365.
– Избранное изображение из Management Today
