Глава Google DeepMind призвал срочно создать орган контроля ИИ до появления AGI

Глава Google DeepMind Демис Хассабис призвал власти США срочно сформировать новый надзорный орган по контролю за передовыми ИИ-моделями — по его словам, система должна заработать «в течение нескольких месяцев», в идеале до конца 2026 года, пока индустрия ещё не подошла к созданию AGI (искусственного интеллекта общего назначения).

Что именно предложил Хассабис

Предложение изложено в личном манифесте Хассабиса «A Framework for Frontier AI and the Dawning of a New Age», опубликованном во вторник, 14 июля 2026 года. Хассабис предлагает создать орган по образцу американского финансового регулятора FINRA (Financial Industry Regulatory Authority) — некоммерческую структуру, которая финансируется самой индустрией, но действует под надзором государства (в случае FINRA — под надзором Комиссии по ценным бумагам и биржам США).

Как должна работать проверка моделей

На первом, добровольном этапе передовые ИИ-лаборатории будут предоставлять свои модели на проверку за 30 дней до публичного релиза. Тесты должны выявлять опасные возможности в кибербезопасности, биологических исследованиях, а также признаки «обмана» — попытки моделей обходить встроенные ограничения безопасности. Отдельно предполагается контроль за маркировкой контента, сгенерированного ИИ. Бенчмарки для оценки должны обновляться ежеквартально, а со временем — чаще.

Как только протокол проверки докажет свою эффективность, добровольный режим может быстро смениться обязательным — то есть передовые модели должны будут проходить проверку, чтобы вообще попасть на рынок США. Правило должно распространяться на модели независимо от страны происхождения и от того, открытый это код или закрытый — исключение делается только для моделей стартапов и академических разработок, которые не относятся к категории передовых (frontier).

Кто будет управлять новым органом

По задумке Хассабиса, руководящий совет органа должен включать независимых ведущих технических экспертов, в том числе лауреатов премии Тьюринга, представителей открытого сообщества (open-source), а также представителей государства и индустрии. Хассабис сообщил, что его переговоры с администрацией Трампа по этому вопросу уже дали позитивные сигналы.

Почему именно сейчас

По оценке Хассабиса, AGI — система, обладающая всеми когнитивными способностями человеческого мозга — может появиться «всего через несколько лет». Его инициатива стала уже второй за последний месяц: примерно за месяц до этого схожую систему надзора, но по образцу американского авиарегулятора FAA, предложил глава Anthropic Дарио Амодеи. То, что два руководителя крупнейших ИИ-лабораторий независимо друг от друга публично призывают к системному надзору, — само по себе значимый сигнал смены тона в индустрии, ещё недавно куда более сдержанно относившейся к внешнему регулированию.

Подробнее о том, как Google DeepMind в принципе устроен и как в компании появился Gemini, можно прочитать в нашем отдельном разборе: Gemini и Google DeepMind: полная история главного ИИ

Что это значит на практике

Пока предложение Хассабиса — это манифест, а не закон: чтобы система заработала даже в добровольном формате, потребуется согласие крупных лабораторий и поддержка со стороны властей США. Но сам факт, что за последний месяц два крупнейших игрока рынка ИИ независимо предложили похожие механизмы контроля, говорит о том, что вопрос обязательной проверки моделей перед релизом переходит из разряда теоретических дискуссий в разряд конкретных, обсуждаемых с правительством инициатив.