Strands Decider 2B выбирает варианты локально и отвечает примерно за 115 мс

Рабочая станция с видеокартой и серверным оборудованием для локальной модели принятия решений ИИ-ассистенты и ChatGPT-связки
Strands Decider 2B — открытая модель для быстрых решений: она выбирает вариант, оценивает вероятность ответа «да/нет» и выдаёт скор с калиброванной уверенностью.

Strands Decider 2B предназначена не для генерации текста, а для быстрых решений внутри ИИ-систем. Модель получает текущее состояние и типизированные вопросы, после чего может выбрать один из вариантов, оценить вероятность ответа «да/нет» или вернуть числовую оценку с калиброванной уверенностью.

Модель содержит 1,9 млрд параметров и построена на базе Qwen3.5-2B-Base. Заявленное время выбора составляет около 115 мс, что делает её потенциально полезной для агентных сценариев, где решение нужно получать отдельно от более тяжёлой языковой модели.

Где можно запускать модель

Strands Decider 2B рассчитана на локальное и самостоятельное развёртывание. Она может работать на CPU, потребительской видеокарте и компьютерах Mac с Apple Silicon. Веса распространяются по лицензии Apache-2.0.

Пакет strands-decider устанавливается через pip и включает интерфейс командной строки и HTTP-сервер. В комплектной конфигурации сервер привязывается к 127.0.0.1 и не содержит собственной аутентификации, поэтому при публикации сервиса в сети потребуется отдельный защитный слой.

Готового облачного провайдера инференса для модели пока нет, поэтому основной сценарий её применения — локальная инфраструктура или собственный сервер. Для разработчиков ИИ-агентов это даёт возможность вынести простые операции выбора и скоринга в отдельную компактную модель.

Оцените статью
Добавить комментарий

Мы используем cookie-файлы для наилучшего представления нашего сайта. Продолжая использовать этот сайт, вы соглашаетесь с использованием cookie-файлов.
Пофиг
Политика конфиденциальности