tym razem model basal 🇵🇱 - projekt od środka

Dziś wydaję silnik basal 2.2 🇵🇱 z autokalibracją - model sam uczy się na Waszych prywatnych danych 🤯 Model decyzyjny jest użyteczny tylko wtedy, gdy „90% pewności” znaczy 90% na Twoich danych. Kalibrację dostarczaną z modelami dopasowaliśmy na naszych danych. Na Twoich model może być pewny siebie inaczej, nawet gdy jest równie trafny. Dlatego w 2.2 wprowadzam coś co pozwoli ustawić kalibrację na Twoich danych - basal-calibrate. Bierzesz oznaczone przykłady ze swojego procesu i najpierw generujesz raport. Potem narzędzie dopasowuje kalibrację i wyznacza certyfikowane progi dla Twoich lokalnych danych 🤯. Bez udostępniania danych na zewnątrz, bez trenowania. Basal sam się skalibruje. Sprawdziłem to na nowej dziedzinie, na której model nie był trenowany. Ustawienie „1%” z dostarczonego pliku przyjęłoby automatycznie co ósmą decyzję, a 8% z nich byłoby błędnych. Po kalibracji na danych użytkownika błąd kalibracji pytań choice spadł z 0,268 do 0,083. Na twierdzeniach verify model przyjął automatycznie 54,8% przypadków bez żadnego błędu. W tym wydaniu także: 🔸 porty FP8 (vLLM) i GGUF (llama.cpp, Ollama) dla basal-omni-1.0-mini i max, 🔸 porty MLX dla Maca z Apple Silicon: mini, max i 1.1-max, 🔸 wkłady społeczności. Dziękuję: - Piotr Durlej (eksport GGUF) @pdurlej - super, pomogło mi zoptymalizować eksporty do GGUF - Kuba Sołtys (Google TPU) @QoobaSol - świetna implementacja na TPU - Michał Kardyś (AMD Strix Halo) - dziękuję bardzo bo już nie miałem możliwości by się tym zając (sprawdziłem u mnie i działa świetnie) @kardysm - lukaspoloki (basal-viz, podgląd każdego kroku decyzji). - Paweł Kiszczak - eksporty do AppleSilicon MLX Podziękowania za cały weekend bardzo miłych wpisów, liczne komentarze opublikuję dzisiaj wieczorem. Ile wystarczyło czasu to odpisałem. Później już pracowałem nad kolejnymi usprawnieniami. Dzisiaj czytam kolejne wpisy. Dziękuję.

Zapraszam na trzeci odcinek (z pięciu) o lokalnych systemach agentowych. Bohaterami odcinka są Hermes Agent oraz HP ZGX Nano. W dzisiejszym odcinku, razem z Dorota Olczak z HP Inc Poland, zlecamy przeszukiwanie Internetu w celu pozyskania informacji o konkurencji naszej fikcyjnej firmy Alpha Logistics. Agenty idą do Internetu. Oczywiście robimy to z Hermes Agent (by Nous Research). Przypomnę tylko, że Hermes Agent oraz model LLM uruchomiliśmy całkowicie lokalnie na HP ZGX Nano. Zapraszamy! Na potrzeby serialu o Hermes Agent stworzyliśmy przypadek biznesowy Alpha Logistics. Serial składa się z pięciu części (każda część publikowana co dwa tygodnie): 1. Superkomputer AI na Twoim biurku — poznaj ZGX Nano i Hermes (opublikowany na moim profilu). 2. Pierwsze zadanie dla agenta — od terminala do raportu. 👉 3. Agent w internecie — research i raport, który robi się sam. 4. Agent, który uczy się firmy — pamięć, skille, subagenci. 5. Agent 24/7 — Twój zespół AI pracuje, kiedy Ty śpisz. #HP #ZbyHP #AI [współpraca płatna]

basal-omni 🇵🇱 - TOP1 🤩🤩🤩 🌍 na świecie w modelach otwartych oraz TOP2 wśród zamkniętych i otwartych Wg niezależnego benchmarku modeli system-one gdzie testowane są wszystkjie modele na świecie - JevBench (link do bencha w pierwszym wpisie). Czyli można? Można! Polskie AI 🇵🇱 basal wyprzedził model OpenAI, Microsoft oraz pierwowzór z TypeSafe (jev). Thank you, @airesearch12 , for the independent evaluation on JevBench.

Sobota, 9:00: udostępniam basal-omni-1.1-max oraz silnik basal 2.1 🇵🇱 A. polski i angielski B. multimodalny: tekst, obraz, dźwięk basal nie generuje tekstu. Odpowiada na pytania o dokument w jednym przebiegu i zwraca skalibrowane prawdopodobieństwo. Wiesz więc, kiedy mu ufać, a kiedy oddać sprawę człowiekowi. Fundament - choice: wybór jednej z 2–255 opcji - noul: tak / nie jako prawdopodobieństwo - score: ocena na skali (np. niski / średni / wysoki) - multi: wiele etykiet naraz, każda z własnym prawdopodobieństwem 🔥 tylko w basal (rozszerzenie w stosunku do jev) 🔥 Dla agentów i automatyzacji 💪 act: decyzja według kosztów błędów. Wybiera działanie o najniższym oczekiwanym koszcie, a niepewne przypadki przekazuje człowiekowi 🧰 tool: które narzędzie wywołać w systemie agentowym (definicje OpenAI / MCP / Anthropic) Nowe w 2.1 🔥🔥🔥 (eksperymentalne) - classify: klasyfikacja według Twoich etykiet z opisami, z opcją „żadne z powyższych” - verify: czy twierdzenie wynika z dokumentu: potwierdzone / sprzeczne / brak informacji. Np. sprawdzenie odpowiedzi innego LLM-a - extract: wypełnia Twój JSON Schema danymi z dokumentu. Każda wartość to dokładny fragment tekstu z pozycją i pewnością, więc nic nie jest wymyślone - compress: zostawia tylko fragmenty potrzebne do odpowiedzi na pytanie, czyli krótszy kontekst dla innego modelu (np. Bielik, Gemma) Otwarte wagi, działa lokalnie. Szczegóły i wyniki w sobotę.

Firma przyszłości? Dynamiczna firma, dynamiczne systemy decyzyjne gdzie AI na podstawie kontekstu działa autonomicznie? Słyszałem to gdzieś na konferencji. Opowiadane przez przedstawiciela wielkiego amerykańskiego labu AI. na basal uruchomiłem MCP (jest w standardzie inference enginu 2.0). Zapraszam na pokaz - agenci 🤖🤖🤖, modele decyzyjne 🧠🧠 , realizują procesy, w których decyzje zależą od kontekstu świata zewnętrznego. System sam się modyfikuje w zależności od tego jaką zastaje sytuację, dostosowuje interfejsy do zmieniającego się zewnętrznego ekosystemu. W przypadku niepewności lub twardych reguł decyzję przekazują do człowieka 🧑‍🤝‍🧑 To w zasadzie dość prosty przykład, zrobiłem go specjalnie w gotowych systemach agentowych (Codex, Claude, herdr by pokazać równoległość działania systemów). Nic nie stoi na przeszkodzie by realizowały one zdecydowanie większe procesy gdzie na każdym kroku decyzję o przejściu dalej podejmuje model typu Typed Decision (System-1) a teraz słuchając, czytając, widząc. @ElevenLabs - fantastyczne v4 i generowanie podkładu pod film. Kosmos. basal 🇵🇱

basal-2.0 i basal-omni-1.0 otwarte modele decyzyjne dla języka polskiego 🇵🇱 i angielskiego 🇬🇧 udostępnione 🔸Trzy modele basal-2.0: mini (1,5B), 4.5B i max (11B), w wersjach bf16, FP8, GGUF i MLX 🔸 Od 1,4 do 5,2 razy więcej decyzji na sekundę niż basal-1.5 i lepiej skalibrowane prawdopodobieństwa. 🔸Do 255 opcji w jednym pytaniu (w basal-1.5: 10). 🔸typ pytania „tool” do wyboru narzędzia i narzędzie do kalibracji (BFCL - 92% dla modelu 4.5B) 🔸Na Werdykcie, ukrytym polsko-angielskim benchmarku decyzji, każdy rozmiar wypada lepiej od swojego odpowiednika z wersji 1.5. 🔸basal-omni-1.0 (eksperymentalnie): basal-omni-1.0-mini (4B) i basal-omni-1.0-max (12B), modele basal zbudowane na Gemma 4, które oprócz tekstu czytają obrazy i dźwięk. 🔸Silnik inferencji v2.0.0: serwer HTTP, serwer MCP dla agentów Zastosowania: routing zgłoszeń i dokumentów, sprawdzanie reguł i polityk, pytania do długich dokumentów, decyzje w RAG, oceny na skalach, kolejny krok agenta i triage z progiem pewności, który niepewne przypadki kieruje do człowieka. basal-2.0 powstał na bazie Bielika v3 (@Speak_Leash, @Cyfronet ), basal-omni na bazie Gemma 4 (Google). Modele i silnik na licencji Apache-2.0.