Специализированный институт, основанный подразделением Google DeepMind, приступил к работе над проблемой обеспечения безопасности общего искусственного интеллекта (AGI). Основная миссия новой структуры заключается в глубоком аналиму способов безопасного прогресса AGI, изучении сфер его внедрения и оценке потенциальных социальных последствий. Площадка станет открытым пространством для публикации научных идей, объединяя усилия экспертов из Google DeepMind, самой корпорации Google и представителей глобального научного сообщества.
Создание института продиктовано растущими опасениями относительно неконтролируемого роста технологий. В организации подчеркивают, что усиление мощностей ИИ уже сегодня влечет за собой реальные угрозы в области кибербезопасности и возникновения биологических рисков. При этом эксперты не исключают сценария, при котором в будущем человечество может полностью утратить власть над автономно развивающимися алгоритмами.
Подобные опасения разделяют и другие лидеры индустрии. Так, Билал Чугтай, ранее работавший в Google DeepMind, заявлял о катастрофических рисках, вплоть до угрозы существованию человечества. Он настаивал на необходимости синхронизации усилий технологических компаний и намеренном снижении темпов инноваций, чтобы общественные институты успевали адаптироваться к изменениям. Схожей позиции придерживается и Дарио Амодеи, возглавляющий Anthropic: он предложил внедрить трехэтапный план безопасной разработки ИИ. Данную стратегию замедления уже поддержали такие ключевые фигуры, как Сэм Альтман из OpenAI и Илон Маск, руководящий компаниями Tesla и SpaceX.
