Глава Microsoft AI заявил о необходимости усилить меры безопасности при разработке ИИ

Для предотвращения выхода систем на основе искусственного интеллекта (ИИ) из-под контроля человека необходимы более строгие меры безопасности при разработке этих технологий. Об этом BBC заявил генеральный директор компании Microsoft AI Мустафа Сулейман.

Он напомнил, что в США на фоне роста обеспокоенности общественности по поводу темпов развития технологий на основе ИИ и призывов лидеров отрасли к замедлению обсуждаются предложения по регулированию этой технологии.

Сулейман подчеркнул оправданность растущих опасений по поводу ИИ. По его словам, для снижения рисков в процессе разработки систем на основе ИИ могут применяться дополнительные меры безопасности, проверки и контроль. При этом, он предупредил, что подход к таким системам «как к людям» может повысить риски.

Такой подход может превратить искусственный интеллект в системы, способные конкурировать с людьми, добавил он.

Глава Anthropic предложил замедлить развитие ИИ

В индустрии ИИ с начала месяца развернулась масштабная дискуссия о безопасности дальнейшего развития этой технологии.

Восьмого сентября 27-летний британский исследователь Джейкоб Коксон, занимавшийся предобучением моделей в OpenAI и Anthropic, публично заявил в соцсети американской компании X о своем уходе. Он обвинил обе компании в безответственном подходе, отметив, что они «несутся прямиком к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями». Его публикация стала вирусной и набрала более 150 млн просмотров.

Спустя несколько дней, 12 сентября, генеральный директор Anthropic Дарио Амодеи опубликовал на своем сайте программное эссе «We Must Pace the Frontier» («Мы должны сдерживать фронтир»). В нем он согласился со многими опасениями Коксона и призвал всю индустрию искусственного интеллекта замедлить темпы разработки мощных моделей.

Амодеи предупредил, что стремительное развитие технологий ИИ может затруднить возможность понимать системы и контролировать их, а также предложил замедлить развитие этой технологии таким образом, чтобы это обеспечивало больше возможностей для контроля.

На его замечание о том, что компании, работающие в сфере ИИ, должны объединиться и определить стандарты безопасности, поддержку оказал Илон Маск. Генеральный директор OpenAI Сэм Альтман также отметил, что присоединяется к предложению и предпримет тот же шаг в вопросе независимой оценки.