Re: AI, Robotyka i Uczucia
: 30 mar 2025, 19:57
Będzie trochę technicznie.
Moje (subiektywne) wrażenia z krótkiego używania opcji no-cost asystenta Cline/Roo code + VIsual Studio Code + Flutter
- ruter API -- openrouter. Ograniczenia 200 free zapytań/dzień --> to jest po prostu mało jeżeli chcemy coś sensownego zrobić. Taski dzielą się na ileśtam zapytań do API, czasami moim zdaniem za dużo (bo zdaje się że jeszcze raz wczytuje już wczęsniej wczytane ale wyedytowane pliki).
- okno kontekstowe 1M tokenów jest spoko dla gemini-2.5 bo nie czuje się że po paru plikach task zastopuje
- używam DeepSeek-v1 do 32b przez ollamę bo tyle maksymalnie udźwignie moja raczej stara karta graficzna. I jestem niezadowolony z tego DeepSeeka. Być może większe wersje są sensowniejsze.
- Sonnet 3.7 widzę w cenach > 1$ za input i output, więc dość średnio. Podobnie ceny w OpenAI za o3-mini, który uważam za dość dobry model są powyżej 1$.
- Generalnie mam takie wstępne zdanie że dopóki modele z dużym oknem kontekstowym nie będą tanie, nie będzie się opłacać zastępować ludzi. Obiecujący wydaje się na razie gemini-2.0 flash lite z 1M tokenów, pewnie za jakiś rok gemini-2.5 będzie tani i odpowiednio konkurencja,
Wyobrażałem sobie że będę miał jakiś prompt caching między taskami ale albo go nie ma, albo nie zaznaczyłem odpowiedniej opcji --> OK, pokazuje w konfiguracji że wspiera lub nie.
Moje (subiektywne) wrażenia z krótkiego używania opcji no-cost asystenta Cline/Roo code + VIsual Studio Code + Flutter
- ruter API -- openrouter. Ograniczenia 200 free zapytań/dzień --> to jest po prostu mało jeżeli chcemy coś sensownego zrobić. Taski dzielą się na ileśtam zapytań do API, czasami moim zdaniem za dużo (bo zdaje się że jeszcze raz wczytuje już wczęsniej wczytane ale wyedytowane pliki).
- okno kontekstowe 1M tokenów jest spoko dla gemini-2.5 bo nie czuje się że po paru plikach task zastopuje
- używam DeepSeek-v1 do 32b przez ollamę bo tyle maksymalnie udźwignie moja raczej stara karta graficzna. I jestem niezadowolony z tego DeepSeeka. Być może większe wersje są sensowniejsze.
- Sonnet 3.7 widzę w cenach > 1$ za input i output, więc dość średnio. Podobnie ceny w OpenAI za o3-mini, który uważam za dość dobry model są powyżej 1$.
- Generalnie mam takie wstępne zdanie że dopóki modele z dużym oknem kontekstowym nie będą tanie, nie będzie się opłacać zastępować ludzi. Obiecujący wydaje się na razie gemini-2.0 flash lite z 1M tokenów, pewnie za jakiś rok gemini-2.5 będzie tani i odpowiednio konkurencja,
Wyobrażałem sobie że będę miał jakiś prompt caching między taskami ale albo go nie ma, albo nie zaznaczyłem odpowiedniej opcji --> OK, pokazuje w konfiguracji że wspiera lub nie.