Согласно Максиму Морозову, AI project manager в Битрикс24, в условиях цифровизации малому бизнесу необходимо внедрять искусственный интеллект для анализа отзывов и создания чат-ботов. Однако облачные API могут быть дорогостоящими, а передача данных третьим лицам вызывает опасения конфиденциальности. Решение — локальные нейросети на собственном оборудовании, такие как Mac Mini M4 Pro.
Преимущества локального решения включают отсутствие зависимости от интернета, полную конфиденциальность данных и значительную экономию на обслуживании. Например, Mac Mini занимает мало места, потребляет всего 40 Вт и позволяет обрабатывать до 2880 документов в сутки. Модель GPT-OSS-20B, протестированная с LM Studio, продемонстрировала высокую скорость и точность в обработке текста.
Локальные нейросети подходят для анализа персональных данных, контрактов и финансовой отчетности, позволяя избегать рисков, связанных с облачными решениями. Для большинства бизнес-задач Mac Mini с GPT-OSS-20B станет оптимальным выбором, обеспечивая значительную экономию и защиту данных.