В ходе мероприятия, проходящего на полях Генеральной Ассамблеей ООН, руководитель компании OpenAI Сэм Альтман выразил серьезную обеспокоенность будущим технологий искусственного интеллекта. По его мнению, стремительный прогресс в этой сфере несет в себе угрозу чрезмерного сосредоточения рычагов управления в руках узкой группы лиц.
Сэм Альтман подчеркнул необходимость соблюдения строгих предосторожностей при создании новых технологий. Он аргументировал это тем, что процесс обучения моделей не должен продолжаться, если нет твердой уверенности в способности человека сохранять над ними эффективный контроль. По словам главы OpenAI:
Даже ничтожная вероятность возникновения катастрофических сценариев является недопустимой.
Помимо рисков утраты контроля, эксперт указал на опасность использования мощных систем для продвижения определенных идеологий. Сэм Альтман настоял на том, что ни частные лица, ни корпорации, ни целые государства не имеют права эксплуатировать передовые модели ИИ с целью навязывания своих убеждений окружающим. При этом он акцентировал внимание на том, что разработчики обязаны осуществлять надзор за работой систем, особенно учитывая их постоянно растущий потенциал.
