Министерство иностранных дел США раскрыло опасность искусственного интеллекта для человечества. Для анализа работы этой системы было потрачено $250 тыс.
Чем ИИ опасен для человечества
Так, отчет для властей США сделала компания Gladstone AI, которая на постоянной основе консультирует чиновников Америки касательно ИИ.
Для отчета сотрудники Gladstone AI пообщались с более чем 200 экспертами и работниками компаний по разработке с ИИ.
Собранные данные помогли выделить главные риски искусственного интеллекта для человечества. Одна из главных опасностей — это разработка оружия.
— Такие системы потенциально могут использовать для разработки и даже запуска катастрофических биологических, химических или цифровых атак, или же реализовать использование роботизированных устройств как оружия, — отметили эксперты.
Еще одна опасность заключается в рисках потери контроля. Разработка может стать неконтролированной и вражески настроиться против человечества.
Ситуацию с рисками усугубляют конкурентные компании, которые разрабатывают ИИ. Многие из них не инвестируют в безопасность системы, потому что это экономически невыгодно.
Эксперты посоветовали властям США криминализировать распространение открытых ИИ-систем и сильное развитие интеллекта.
Сейчас разработки таких систем — очень прибыльное дело, и каждый хочет на этом заработать. К примеру, недавно Илон Маск подал в суд на OpenAI за якобы обман ради заработка. По словам миллиардера, компания изначально хотела создать ИИ для всех, но решила свои услуги продавать.
