Более тысячи подписей собрал призыв обеспокоенных критиков искусственного интеллекта (ИИ), выраженный в открытом послании, которое подписали ряд ведущих менеджеров и разработчиков в области AI (ИИ), опубликованном в среду утром. Подписавшие открытое письмо призвали приостановить эксперименты с этой технологией как минимум на шесть месяцев.
Среди подписавших открытое послание Генеральный директор SpaceX и Tesla Илон Маск, соучредитель Apple Стив Возняк, главный научный сотрудник IBM Грэди Буч, генеральный директор по стабильности искусственного интеллекта Эмад Мостак, Стюарт Рассел (глава Центра искусственного интеллекта в Калифорнийском университете), Юваль Ной Харари (историк Еврейского университета в Иерусалиме), Шон О’Хейгартай (исполнительный директор Центра изучения экзистенциального мира Кембриджского университета) и др.
В письме, в частности, говорится о потенциально апокалиптических сценариях неконтролируемых экспериментов с технологиями искусственного интеллекта.
Компании, изучающие ИИ, «застряли в неконтролируемой гонке по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать», — говорится в письме. «Если такая пауза не может быть принята быстро, правительства должны вмешаться и ввести мораторий».
Общедоступные инструменты искусственного интеллекта стремительно набирают популярность и возможности. ChatGPT – потрясающе искусный чат-бот стал, по некоторым показателям, самым быстрорастущим потребительским приложением в истории технологий. Его материнская компания OpenAI выпустила новую версию своего программного обеспечения для искусственного интеллекта два месяца спустя. И такие технологические компании как Google, Microsoft и Snapchat, поспешили начать внедрение таких технологий в свои платформы.
Хотя многие согласны с тем, что индустрия ИИ развивается опасно быстро, некоторые специалисты по этике раскритиковали письмо за то, что оно сосредоточено на “теоретически” возможном вреде от ИИ. Например, по мнению Сары Майерс Уэст, управляющего директора некоммерческой организации изучающей влияние технологий ИИ на общество AI Now Institute, “в письме упущены некоторые основные проблемы, связанные с индустрией ИИ”.
Она сказала, что такие компании, как Google и Microsoft, готовы доминировать на рынке искусственного интеллекта в США и, что технология может лишить работы большое количество творческих работников. В прошлом месяце Федеральная торговая комиссия предупредила технологические компании, занимающиеся искусственным интеллектом, от “потенциально ложных заявлений об их продуктах”.
Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4.
Открытое письмо доступно по ссылке: https://futureoflife.org/open-letter/pause-giant-ai-experiments/
