Здравствуйте, уважаемый Мырат Вепаевич! Полностью с вами соглашусь про необходимость большего распространения именно локальных решений, которые можно запускать на базе корпуса без доступа снаружи и без нарушения конфиденциальности данных. Но тут также возникает вопрос: при использовании свободно распространяемых моделей — где следует брать исходники и кто в итоге должен собирать интерфейс. Если полностью весь запуск отводится обучающимся, то не сужает ли это возможную группу обучающихся за счет повышения сложности задачи? Какую локальную модель вы разворачиваете и применяете чаще всего?
Любопытно отметить в контексте обсуждения, что версия размышления у Алисы в PRO-версии также использует пока в основном релизе дообученную модель DeepSeek.
Алена Антоновна, благодарю за проницательный вопрос! Действительно, выбор инструмента и подхода зависит от цели. Для задач общего плана, таких как чат-боты и ответы на вопросы, мы с ребятами успешно используем Ollama в связке с Msty. Этот тандем обеспечивает простоту установки и интуитивно понятный интерфейс, что делает его доступным для школьников разного уровня подготовки. В случае же узкоспециализированных задач, требующих, например, анализа данных или обработки изображений, мы обращаемся к Hugging Face. Модели ShowUI и DeepSite оказались особенно полезными, хотя мы постоянно исследуем новые возможности, которые предлагает эта платформа. Что касается сложности, то я считаю, что именно в процессе освоения сложных задач… Read more »
Здравствуйте, уважаемый Мырат Вепаевич!
Полностью с вами соглашусь про необходимость большего распространения именно локальных решений, которые можно запускать на базе корпуса без доступа снаружи и без нарушения конфиденциальности данных. Но тут также возникает вопрос: при использовании свободно распространяемых моделей — где следует брать исходники и кто в итоге должен собирать интерфейс. Если полностью весь запуск отводится обучающимся, то не сужает ли это возможную группу обучающихся за счет повышения сложности задачи? Какую локальную модель вы разворачиваете и применяете чаще всего?
Любопытно отметить в контексте обсуждения, что версия размышления у Алисы в PRO-версии также использует пока в основном релизе дообученную модель DeepSeek.
Алена Антоновна, благодарю за проницательный вопрос! Действительно, выбор инструмента и подхода зависит от цели. Для задач общего плана, таких как чат-боты и ответы на вопросы, мы с ребятами успешно используем Ollama в связке с Msty. Этот тандем обеспечивает простоту установки и интуитивно понятный интерфейс, что делает его доступным для школьников разного уровня подготовки. В случае же узкоспециализированных задач, требующих, например, анализа данных или обработки изображений, мы обращаемся к Hugging Face. Модели ShowUI и DeepSite оказались особенно полезными, хотя мы постоянно исследуем новые возможности, которые предлагает эта платформа. Что касается сложности, то я считаю, что именно в процессе освоения сложных задач… Read more »