ODBIERZ TWÓJ BONUS :: »

LLM-y od środka. Wyzwania i tworzenie otwartoźródłowych rozwiązań za pomocą AI Thársis T. P. Souza, Jonathan K. Regenstein Jr.

LLM-y od środka. Wyzwania i tworzenie otwartoźródłowych rozwiązań za pomocą AI Thársis T. P. Souza, Jonathan K. Regenstein Jr. - okladka książki

LLM-y od środka. Wyzwania i tworzenie otwartoźródłowych rozwiązań za pomocą AI Thársis T. P. Souza, Jonathan K. Regenstein Jr. - okladka książki

Autorzy:
Thársis T. P. Souza, Jonathan K. Regenstein Jr.
Wydawnictwo:
Helion
Ocena:
Stron:
302
Druk:
oprawa miękka

Duże modele językowe (LLM) to jeden z najgorętszych tematów we współczesnym IT. ChatGPT, Claude, Gemini czy Mistral zrewolucjonizowały przetwarzanie języka naturalnego i otworzyły drzwi do tysięcy nowych zastosowań biznesowych. Jednak za ich fascynującymi możliwościami kryją się poważne wyzwania techniczne: halucynacje, niespójne wyniki, luki w zabezpieczeniach i trudności z wdrażaniem produkcyjnym. Rynek aplikacji opartych na LLM-ach rozwija się w zawrotnym tempie, a zapotrzebowanie na inżynierów, którzy potrafią budować niezawodne, bezpieczne i dopasowane do wymagań biznesowych systemy AI, stale rośnie. Ta książka odpowiada na te potrzeby koncentruje się nie na tym, co LLM-y potrafią, lecz na ich ograniczeniach i sposobach, w jakie można sobie z nimi radzić.

Publikacja prowadzi czytelnika przez cały cykl życia aplikacji opartych na dużych modelach językowych (LLMBA): od strategicznego planowania i wyboru modelu, przez ewaluację niedeterministycznych systemów z wykorzystaniem wskaźników BLEU, ROUGE i podejścia LLM-as-a-Judge, aż po zaawansowane techniki zarządzania kontekstem, RAG i tworzenia ustrukturyzowanych danych wyjściowych. Osobne rozdziały poświęcono bezpieczeństwu jailbreakingowi, wstrzykiwaniu promptów, benchmarkom SALAD-Bench i HarmBench a także zgodności modeli z wartościami organizacji przy użyciu algorytmów RLHF i DPO. Całość uzupełnia praktyczny przegląd narzędzi otwartoźródłowych: LangSmith, Promptfoo, LightEval, Ollama, llama.cpp i llamafile, z reprodukowalnymi przykładami kodu w Pythonie.

Najważniejsze zagadnienia:

  • Ewaluacja i testowanie niedeterministycznych systemów LLM z użyciem wskaźników ilościowych i podejścia LLM-as-a-Judge
  • Zarządzanie kontekstem, strategie RAG, dzielenie dokumentów na fragmenty i zastosowanie modeli z długim oknem kontekstowym
  • Generowanie ustrukturyzowanych danych wyjściowych z kontrolą formatu (Pydantic, Outlines, Ollama)
  • Ocena bezpieczeństwa modeli z wykorzystaniem benchmarków SALAD-Bench, TruthfulQA i HarmBench, a także zabezpieczeń działających w czasie wykonywania, takich jak Llama Guard i NeMo
  • Dostosowywanie modeli do zasad organizacji przy użyciu RLHF, DPO i biblioteki TRL
  • Lokalne wdrażanie LLM-ów i kwantyzacja modeli przy użyciu llama.cpp, Ollamy i llamafile

Twórz aplikacje oparte na LLM-ach, którym możesz zaufać w produkcji!

Aplikacje oparte na modelach LLM łatwo przygotować w wersji demonstracyjnej, ale trudno je wdrożyć do środowiska produkcyjnego. Ta książka skupia się na tej kwestii.

Didier Rodrigues Lopes, założyciel i prezes OpenBB

Ten niezbędny przewodnik wyposaża czytelników na każdym poziomie zaawansowania w narzędzia pozwalające skutecznie poruszać się w świecie LLM-ów.

Sudheer Chava, profesor Georgia Tech, dyrektor Financial Services Innovation Lab

O autorach książki

Thársis T.P. Souza doktor informatyki UCL, lider produktu AI, były menedżer w funduszach hedgingowych na Wall Street i startupach z Doliny Krzemowej. Twórca podcastfy.ai i wykładowca na Uniwersytecie Columbia.

Jonathan K. Regenstein jr pracownik naukowy Financial Services Innovation Lab w Georgia Tech, doradca firm z branży AI. Absolwent Harvardu i NYU School of Law.

Helion - inne książki

Zamknij

Przenieś na półkę
Dodano produkt na półkę
Usunięto produkt z półki
Przeniesiono produkt do archiwum
Przeniesiono produkt do biblioteki

Zamknij

Wybierz metodę płatności

Płatności obsługuje:
Ikona płatności Alior Bank Ikona płatności Apple Pay Ikona płatności Bank PEKAO S.A. Ikona płatności Bank Pocztowy Ikona płatności Banki Spółdzielcze Ikona płatności BLIK Ikona płatności Crédit Agricole e-przelew Ikona płatności dawny BNP Paribas Bank Ikona płatności Google Pay Ikona płatności ING Bank Śląski Ikona płatności Inteligo Ikona płatności iPKO Ikona płatności mBank Ikona płatności Millennium Ikona płatności Nest Bank Ikona płatności Paypal Ikona płatności PayPo | PayU Płacę później Ikona płatności PayU Płacę później Ikona płatności Plus Bank Ikona płatności Płacę z Getin Bank Ikona płatności Płać z BOŚ Ikona płatności Płatność online kartą płatniczą Ikona płatności Santander Ikona płatności Visa Mobile