LLM-y od środka. Wyzwania i tworzenie otwartoźródłowych rozwiązań za pomocą AI Thársis T. P. Souza, Jonathan K. Regenstein Jr.
- Autorzy:
- Thársis T. P. Souza, Jonathan K. Regenstein Jr.
- Wydawnictwo:
- Helion
- Ocena:
- Stron:
- 302
- Druk:
- oprawa miękka
Opis
książki
:
LLM-y od środka. Wyzwania i tworzenie otwartoźródłowych rozwiązań za pomocą AI
Duże modele językowe (LLM) to jeden z najgorętszych tematów we współczesnym IT. ChatGPT, Claude, Gemini czy Mistral zrewolucjonizowały przetwarzanie języka naturalnego i otworzyły drzwi do tysięcy nowych zastosowań biznesowych. Jednak za ich fascynującymi możliwościami kryją się poważne wyzwania techniczne: halucynacje, niespójne wyniki, luki w zabezpieczeniach i trudności z wdrażaniem produkcyjnym. Rynek aplikacji opartych na LLM-ach rozwija się w zawrotnym tempie, a zapotrzebowanie na inżynierów, którzy potrafią budować niezawodne, bezpieczne i dopasowane do wymagań biznesowych systemy AI, stale rośnie. Ta książka odpowiada na te potrzeby koncentruje się nie na tym, co LLM-y potrafią, lecz na ich ograniczeniach i sposobach, w jakie można sobie z nimi radzić.
Publikacja prowadzi czytelnika przez cały cykl życia aplikacji opartych na dużych modelach językowych (LLMBA): od strategicznego planowania i wyboru modelu, przez ewaluację niedeterministycznych systemów z wykorzystaniem wskaźników BLEU, ROUGE i podejścia LLM-as-a-Judge, aż po zaawansowane techniki zarządzania kontekstem, RAG i tworzenia ustrukturyzowanych danych wyjściowych. Osobne rozdziały poświęcono bezpieczeństwu jailbreakingowi, wstrzykiwaniu promptów, benchmarkom SALAD-Bench i HarmBench a także zgodności modeli z wartościami organizacji przy użyciu algorytmów RLHF i DPO. Całość uzupełnia praktyczny przegląd narzędzi otwartoźródłowych: LangSmith, Promptfoo, LightEval, Ollama, llama.cpp i llamafile, z reprodukowalnymi przykładami kodu w Pythonie.
Najważniejsze zagadnienia:
- Ewaluacja i testowanie niedeterministycznych systemów LLM z użyciem wskaźników ilościowych i podejścia LLM-as-a-Judge
- Zarządzanie kontekstem, strategie RAG, dzielenie dokumentów na fragmenty i zastosowanie modeli z długim oknem kontekstowym
- Generowanie ustrukturyzowanych danych wyjściowych z kontrolą formatu (Pydantic, Outlines, Ollama)
- Ocena bezpieczeństwa modeli z wykorzystaniem benchmarków SALAD-Bench, TruthfulQA i HarmBench, a także zabezpieczeń działających w czasie wykonywania, takich jak Llama Guard i NeMo
- Dostosowywanie modeli do zasad organizacji przy użyciu RLHF, DPO i biblioteki TRL
- Lokalne wdrażanie LLM-ów i kwantyzacja modeli przy użyciu llama.cpp, Ollamy i llamafile
Twórz aplikacje oparte na LLM-ach, którym możesz zaufać w produkcji!
Aplikacje oparte na modelach LLM łatwo przygotować w wersji demonstracyjnej, ale trudno je wdrożyć do środowiska produkcyjnego. Ta książka skupia się na tej kwestii.
Didier Rodrigues Lopes, założyciel i prezes OpenBB
Ten niezbędny przewodnik wyposaża czytelników na każdym poziomie zaawansowania w narzędzia pozwalające skutecznie poruszać się w świecie LLM-ów.
Sudheer Chava, profesor Georgia Tech, dyrektor Financial Services Innovation Lab
Wybrane bestsellery
Helion - inne książki
Dzięki opcji "Druk na żądanie" do sprzedaży wracają tytuły Grupy Helion, które cieszyły sie dużym zainteresowaniem, a których nakład został wyprzedany.
Dla naszych Czytelników wydrukowaliśmy dodatkową pulę egzemplarzy w technice druku cyfrowego.
Co powinieneś wiedzieć o usłudze "Druk na żądanie":
- usługa obejmuje tylko widoczną poniżej listę tytułów, którą na bieżąco aktualizujemy;
- cena książki może być wyższa od początkowej ceny detalicznej, co jest spowodowane kosztami druku cyfrowego (wyższymi niż koszty tradycyjnego druku offsetowego). Obowiązująca cena jest zawsze podawana na stronie WWW książki;
- zawartość książki wraz z dodatkami (płyta CD, DVD) odpowiada jej pierwotnemu wydaniu i jest w pełni komplementarna;
- usługa nie obejmuje książek w kolorze.
Masz pytanie o konkretny tytuł? Napisz do nas: sklep@ebookpoint.pl
Książka drukowana
Oceny i opinie klientów: LLM-y od środka. Wyzwania i tworzenie otwartoźródłowych rozwiązań za pomocą AI Thársis T. P. Souza, Jonathan K. Regenstein Jr.
(0)