В своем новом видео под названием «STOP. Using AI Right now» блогер PewDiePie продемонстрировал, как ему удалось собрать локальную систему ИИ на сумму около $20 тыс. Он запустил «совет» ИИ-агентов, в котором несколько моделей отвечают на заданный вопрос и голосуют за лучший ответ. По информации тех-СМИ, в конфигурации PewDiePie используются десять видеокарт: восемь модифицированных RTX 4090 с 48 ГБ памяти и две RTX 4000 Ada, что позволяет эффективно работать с крупными моделями на собственном оборудовании.
Интересным моментом стало то, что блогер ввел правило «выбывания» для моделей, которые не давали успешных ответов. Когда об этом стало известно, ИИ-агенты начали кооперироваться, чтобы избежать исключения, что PewDiePie назвал предательством.
Кроме того, он экспериментировал с «роем» из до 64 малых моделей, но отметил, что для достижения максимальной эффективности системе пока не хватает ресурсов. PewDiePie подчеркивает, что локальные модели обеспечивают ему контроль над данными и приватность, призывая подписчиков отказываться от облачных сервисов и изучать настройку моделей самостоятельно. Он планирует дообучить одну из своих моделей.