Unsupported media type: .svg
Серия gpt-oss впечатляет. Похоже, она убедила меня, что локальный ИИ на самом деле хорош. Ранее модели меня разочаровывали. DeepSeek был хорош, но не последовательным (по моему опыту). Производительность 20b потрясающая и подходит для 99,99% пользователей.
Unsupported media type: .svg
Конечно, новые gpt-oss — бесплатны и запускаются прямо на ноутбуке… Похоже, нас ждет новый уровень майнинга данных 😅. Маленький шаг для человека, но ОГРОМНАЯ рекурсия для ИИ.
Unsupported media type: .svg
Новая модель gpt-oss 20b действительно впечатляет, но на базовом MacBook M3 она работает крайне медленно — всего 1.17 токенов/сек. Хоть и заявляют, что модель запускается на «большинстве ноутбуков», на практике — пользоваться почти невозможно.
Unsupported media type: .svg
Пробовал gpt-oss в Cursor и Cline. (Первые впечатления) Вызов инструментов — полный ноль. В режиме общения ответы прилетают молниеносно, но только около трети запросов проходят успешно. Модель постоянно натыкается на ошибки API или зацикливается. Пока пользы от неё — никакой. Хотя радует, что OpenAI выпускает open-weight модели.
Unsupported media type: .svg
По данным OpenAI, новый формат ответа (Harmony) не должен вас волновать, если вы используете API-провайдера или такие инструменты, как Ollama. По моему опыту, обе модели gpt-oss вообще не умеют работать с инструментами. Возможно, реализация зависит от провайдера?
Unsupported media type: .svg
GPT OSS — первые впечатления: хорошо, что модель остановилась на лимите и не пошла дальше — это норма. Понравилось, как она логически размышляла, пытаясь понять мой запрос... где-то секунд 35.