Какие программы стоит иметь оффлайн?
Говорят, мы постепенно движемся если не к shutdown-у сети Интернет, то к широкому использованию «Белых списков». В этих условиях, с каким набором программ вы бы хотели остаться? Или какой джентельменский набор в папке Install у вас лежит?
Как вы считаете, какие программы обязательно должны быть у любого юзера?
Есть локальные иишки. Самые простые весят около 4гигов)
Самые простые весят даже меньше 1гб, пару мб. Скорее всего, ты имеешь ввиду LLM. Она локально требует больших вычислительных ресурсов и чем сильнее профит, тем более мощный комп нужен. Поэтому, стоит посоветовать автору вместе с этим приобрести мощный ноутбук, ОЗУ минимум 16, видеокарта от RTX4060 8гб и больше
В целом, тема достаточно актуальная, давайте обсуждать)
Да, железо нужно мощное. Наверное, функционал сильно зависит от веса модели? На комп уже не помню, что именно пробовал, а на телефон ставил google ai edge galery (gemma-3n-e2b, 3гига весит)
Да, зависит от количества параметров. Чем больше параметров, тем больше вес. Самую простую модель можно написать самому с нуля, она будет иметь пару десятков параметров, но и задачи будут уровня бинарной классификации. LLM для генерации текста это миллиарды параметров
К тому же, чаще они работают на gpu, так как cpu это очень медленная история для таких моделей. На телефоне вообще не слышал, чтобы запускали языковые модели, архитектура железа там неподходящая. Какие задачи они выполняла и работала ли без интернета?
Обычный текстовый ассистент. Всю его базу не штрудировал, но на вопросы из разных областей он всегда отвечал. Полностью офлайн приложение. История очень медленная, так что пока приложуха пылится в папке)
Судя по всему, это LLM для задачи генерации текста, работающая на cpu телефона. Насчет качества ответов по всем областям я сомневаюсь, 4гб мозга не достаточно, чтобы знать хорошо все области D
Всё равно технология прикольная. Жаль, что не особо прибыльная. Без интернета рекламу туда не вставишь)) А то бы нам в каждое утюг такое встроили)
у меня стоит обход белых списков