Дарио Амодей, возглавляющий Anthropic, выступил с инициативой снизить интенсивность создания сверхмощных систем искусственного интеллекта. По его мнению, нынешний темп технологического скачка создает угрозы, которые невозможно купировать одними лишь защитными механизмами.
Руководитель компании подчеркнул, что простого наращивания мер предосторожности уже мало.
«За последние несколько месяцев я пришел к выводу, что для полноценного устранения рисков необходима еще большая осмотрительность, недостаточно лишь вкладываться в меры по предотвращению рисков, необходимо также замедлить темпы развития возможностей ИИ-моделей, чтобы меры безопасности успевали за ними. Мы должны снизить скорость развития возможностей ИИ-моделей», — заявил Амодей.
Развитие технологий требует, чтобы меры безопасности успевали за прогрессом, а текущая скорость развития возможностей моделей создает критические риски.
