Лёгкие модели Gemma: следующий шаг в развитии искусственного интеллекта
Google представил новый класс лёгких моделей под названием Gemma, который аналитики связывают с наступлением более изящной формы искусственного интеллекта. Были выпущены две версии Gemma – Gemma 2B и Gemma 7B, которые являются большими языковыми моделями (LLM), способными адаптироваться к инструкциям и функционировать на персональных компьютерах, ноутбуках или в облаке Google.
Google сообщает, что модели Gemma оказались эффективнее для своих размеров, превосходя более крупные модели, такие как Llama-2 от Meta, во время тестирования на логических задачах, математике и программировании.
Лёгкие модели Gemma имеют несколько преимуществ перед традиционными моделями: они более портативны и могут использоваться в широком спектре случаев, включая удалённое управление или устройства с ограниченным местным хранилищем; уменьшение общего объёма этих моделей также уменьшает необходимость в энергии для работы с ними.
Кроме того, лёгкие модели Gemma часто основаны на технологии низкоранговой адаптации (Low-Rank Adaptation Technology, LoRA). Это позволяет им быть более гибкими и специфичными по особенностям и функциям, а также создавать модели-экспертов в определённых областях знаний или темноспециальные модели.