AI Internet — распределённая сеть для больших языковых моделей

Что это

AI Internet — распределённая сеть для запуска больших языковых моделей на сообществе домашних видеокарт. Аналог Cursor и Copilot, который работает на вашей видеокарте, без подписки и без отправки кода в чужое облако. Простые запросы решает локальная модель — мгновенно. Сложные собираются ансамблем из пяти-семи специализированных моделей в сети.

Как устроено

Каждый узел сети держит свою профильную модель: один — DeepSeek-Coder для программирования, другой — Qwen-Math для расчётов, третий — русскоязычный специалист. Программа на машине пользователя смотрит, что вы спросили, и решает: ответить самой, отдать одной модели или собрать ансамбль.

На сложных задачах несколько моделей отвечают независимо, агрегатор сводит ответ. Подход подкреплён независимым исследованием Mixture of Agents (Wang et al., 2024, arxiv:2406.04692): ансамбль из шести небольших открытых моделей обходит GPT-4o.

Безопасность

Канал между узлами шифруется как у банковского приложения: Noise XX поверх QUIC и TLS 1.3, ключи X25519 и Ed25519, шифр ChaCha20-Poly1305. Сессионные ключи обновляются каждые пять минут — взлом одной сессии не раскроет переписку прошлой недели.

Сеть устойчива к взлому: пять-семь независимых координаторов согласуют события через BFT-консенсус, DHT защищён подписями, гео-разнообразие пиров не даёт изолировать узел одним провайдером. Передача исполняемого кода по сети архитектурно невозможна — между узлами идут только числа и токены.

Доверие на математике

Мы исходим из того, что часть узлов в открытой сети будет пытаться обманывать. Защита — на залоге и проверках:

• Новый узел — под двойным контролем, в поток подмешиваются контрольные запросы.
• Репутация записывается в открытый журнал по образцу Certificate Transparency.
• Подмена модели на дешёвую видна за 1–2 запроса. Тонкое смещение ответов на конкретные темы — за неделю статистики.
• За доказанное нарушение узел теряет залог; пострадавшим возмещение из компенсационного пула сообщества.

Стартовый продукт — Code Agent

Расширение для VS Code пишет код через сеть домашних видеокарт. Команда из десяти человек платит Cursor двести долларов в месяц и отправляет код в AWS. AI Internet работает без подписки, в режиме Local Only код не покидает машину разработчика.

Внутри — три роли:

• Исследователь читает проект.
• Программист пишет код.
• Критик проверяет результат и подсвечивает риски.

Сгенерированный код запускается в WASM-песочнице. В интернет — только на разрешённые адреса, в файлы — только с явного согласия.

Чего мы не обещаем

• Не приватность по умолчанию. Узел, выполняющий инференс, видит токены вашего промпта в момент обработки. Для конфиденциальных данных — режим Local Only.
• Не способ заработать. Квота не конвертируется в деньги. Час отданного ресурса равен часу полученного.
• Не быстрее облака на каждой задаче. Распределённая обработка добавляет сетевую задержку.
• Не замена для критических задач без проверки. Модели ошибаются — финальное слово за человеком.

Технические характеристики

Дорожная карта

• Месяцы 1–3. Прототип распределённого инференса одного специалиста, базовая проверка ответов, тестовая сеть из десяти узлов.
• Месяцы 4–6. Закрытая альфа: Code Agent с тремя ролями, расширение для VS Code, изолированный запуск, 50 узлов и 200 пользователей.
• Месяцы 7–12. Открытая бета: публичный журнал репутации, адаптивная проверка, маршрутизатор между специалистами, партнёрский пул узлов для команд без своих видеокарт.
• Месяцы 13–24. Зрелость: общая память сети, маркетплейс инструментов, новые модели, Tor-режим для устойчивости к блокировкам.

Ссылки и контакты