Исследователи из Инженерного колледжа Университета штата Орегон представили микросхему, способную вдвое сократить энергопотребление при работе с большими языковыми моделями, такими как Gemini и GPT-4. Это важный шаг на пути к снижению энергоемкости современных ИИ-приложений.
О разработке сообщили глава Лаборатории схем и систем смешанных сигналов Рамин Джавади и доцент кафедры электротехники Теджасви Ананд на конференции IEEE Custom Integrated Circuits, прошедшей в Бостоне.
Как известно, обработка и передача больших объемов данных, необходимых для работы языковых моделей, требует огромных энергозатрат в дата-центрах. При этом скорость передачи данных постоянно растет, а технологии энергоэффективности не успевают за ростом передачи, из-за чего нагрузка на энергосистему современных ЦОД растет по экспоненте. Эта проблема стала крайне чувствительной для крупных операторов ИИ.
Как поясняет Джавади, основная проблема связана с искажениями: при высокой скорости передачи данных сигнал часто теряет качество и требует восстановления. Обычно для этого используют эквалайзеры – специализированные микросхемы, которые успешно устраняют искажения, но при этом расходуют значительное количество энергии.
Разработанная микросхема предлагает альтернативный подход: она использует встроенный классификатор на базе искусственного интеллекта, который обучается распознавать и исправлять ошибки в передаваемом сигнале. Такой метод позволяет восстанавливать данные точнее и с меньшими энергозатратами.
«По сути для экономии энергии искусственного интеллекта мы предлагаем использовать принципы все того же искусственного интеллекта, обучая встроенный классификатор распознавать и исправлять ошибки», – пояснил Джавади.
Проект уже получил поддержку Агентства перспективных исследовательских проектов Министерства обороны США, Корпорации по исследованию полупроводников и Центра повсеместных связей. В настоящее время команда исследователей работает над следующей версией микросхемы, которая, как ожидается, будет еще эффективнее в плане энергосбережения.