Но новые методы требуют и новых типов оборудования.
- Инженеры нашли альтернативу умножению с плавающей запятой
- Новый метод может снизить потребление энергии ИИ до 95%
- Однако новые методы вычислений также требуют альтернативного оборудования по сравнению с существующими графическими процессорами.
С развитием технологии искусственного интеллекта (ИИ) резко возрос спрос на вычислительную мощность и электроэнергию, а также возросло беспокойство людей по поводу потребления энергии.
Теперь инженеры BitEnergy по искусственному интеллекту предлагают потенциальное решение — новый метод вычислений, который может снизить энергопотребление приложений искусственного интеллекта до 95%.
Линейное комплексное умножение может значительно снизить энергопотребление приложений ИИ на 95% за счет изменения способа выполнения вычислений ИИ, отказавшись от традиционного умножения с плавающей запятой (FPM) в пользу сложения целых чисел.
От умножения чисел с плавающей точкой до умножения чисел линейной сложности
FPM обычно используется в вычислениях ИИ, поскольку он позволяет системам обрабатывать очень большие или малые числа с высокой точностью, но это также одна из наиболее энергоемких операций в обработке ИИ. Точность, обеспечиваемая FPM, имеет решающее значение для многих приложений искусственного интеллекта, особенно в таких областях, как глубокое обучение, где модели требуют детальных расчетов.
Исследователи утверждают, что хотя энергопотребление и снизилось, это не повлияло на производительность приложений искусственного интеллекта. Однако, хотя методы умножения линейной сложности показывают большие перспективы, их внедрение все еще сталкивается с определенными проблемами.
Одним из существенных недостатков является то, что новая технология требует другого оборудования, чем то, что используется в настоящее время. Сегодня большинство приложений искусственного интеллекта работают на оборудовании, оптимизированном для вычислений с плавающей запятой, например на графических процессорах таких компаний, как Nvidia. Новый метод требует модернизации оборудования для эффективной работы.
Команда отметила, что оборудование, необходимое для этого метода, было спроектировано, изготовлено и испытано. Однако это новое устройство должно быть лицензировано, и неясно, как оно выйдет на более широкий рынок.
По оценкам, ChatGPT в настоящее время потребляет около 564 мегаватт-часов электроэнергии в день, чего достаточно для электроснабжения 18 000 домов в США. Некоторые комментаторы предсказывают, что всего через несколько лет приложения искусственного интеллекта смогут потреблять около 100 тераватт-часов электроэнергии в год, столько же, сколько энергоемкая индустрия добычи биткойнов.
