Tether представила технологию для запуска сложных ИИ-моделей на обычных смартфонах и ПК

Будущее искусственного интеллекта должно быть доступным для каждого разработчика и пользователя, без необходимости арендовать огромные вычислительные мощности облачных провайдеров. С таким заявлением выступил Паоло Ардоино, генеральный директор компании Tether. Несмотря на то что еженедельно генеративными моделями вроде Gemini или ChatGPT пользуются около 700 миллионов человек, возможности внедрения ИИ распределены крайне неравномерно. Согласно исследованию McKinsey за 2025 год, крупные корпорации с выручкой более 5 миллиардов долларов гораздо активнее интегрируют ИИ в свои процессы, чем малый бизнес, что создает технологический разрыв.

Решение проблемы вычислительной нагрузки

На текущий момент малый бизнес и обычные пользователи ограничены базовыми функциями ИИ из-за высоких требований к инфраструктуре. Tether представила новый фреймворк для тонкой настройки (fine-tuning) нейросетей, который позволяет запускать сложные процессы непосредственно на пользовательских устройствах. Технология ориентирована на работу с архитектурой Bitnet, что открывает путь к созданию миллионов интеллектуальных агентов, работающих на локальном оборудовании.

В качестве примера приводится возможность дообучения моделей с 13 миллиардами параметров на таких устройствах, как смартфоны последних поколений или обычные персональные компьютеры. Это достигнуто за счет сочетания высокой эффективности использования ресурсов и кроссплатформенных методов оптимизации.

Преодоление аппаратных ограничений

Архитектура Bitnet предлагает линейную эффективность, потребляя значительно меньше вычислительных ресурсов, чем традиционные нейросети. Однако современные графические процессоры (GPU) оптимизированы для операций с плавающей запятой, которые Bitnet намеренно исключает, что создавало проблемы совместимости. Tether решила эту задачу следующим образом:

• Интеграция графических бэкендов Vulkan и Metal, что обеспечивает работу моделей на различных мобильных и настольных GPU.
• Использование технологии динамического тайлинга (разбиения данных на части), которая компенсирует ограничения драйверов при работе с буферами памяти на мобильных устройствах.
• Отказ от привязки к проприетарной архитектуре CUDA, что позволяет запускать ИИ на широком спектре оборудования, а не только на видеокартах одного производителя.

Локальный ИИ и децентрализованные вычисления

Компания делает ставку на концепцию локального ИИ, который не требует обращения к удаленным серверам или облачным дата-центрам. Это повышает конфиденциальность данных и снижает затраты на эксплуатацию. Программные решения Tether базируются на платформе Pear, обеспечивающей работу приложений по принципу P2P (прямая связь между устройствами).

Система позволяет организовать распределенные вычисления: пользователь может запустить сложную задачу на смартфоне и делегировать выполнение ресурсоемких процессов на более мощный домашний ПК или ноутбук. По мнению разработчиков, только перенос вычислений на «краевые» устройства (пользовательскую технику) позволит сделать суперинтеллект по-настоящему массовым продуктом, исключив зависимость от крупных технологических корпораций.

* — деятельность компании запрещена на территории РФ