Amazon Bedrock
Amazon Bedrock
Dostęp do najlepszych modeli generatywnej AI (Claude, Titan, Llama, Mistral) przez jedno API. Buduj aplikacje AI bez trenowania własnych modeli.
Amazon Bedrock to w pełni zarządzany serwis, który daje dostęp do najlepszych modeli generatywnej AI (Foundation Models) od wiodących dostawców - Anthropic (Claude), Meta (Llama), Amazon (Titan), Mistral AI, Cohere i Stability AI - przez jedno API. Nie musisz zarządzać infrastrukturą, GPU czy trenować modeli od zera.
Bedrock to idealne rozwiązanie dla firm, które chcą wykorzystać AI w swoich aplikacjach, zachowując bezpieczeństwo danych. Twoje dane nie opuszczają konta AWS, nie są używane do trenowania modeli i są szyfrowane w tranzycie i w spoczynku. Dodatkowo Bedrock oferuje Knowledge Bases (RAG - Retrieval Augmented Generation), pozwalając modelom AI odpowiadać na pytania na podstawie Twoich firmowych dokumentów przechowywanych w S3.
Serwis jest kluczowym elementem strategii AWS w zakresie generatywnej AI i szybko zyskuje na popularności wśród enterprise.
Claude (od Anthropic), dostępny przez Bedrock, został uznany za jeden z najlepszych modeli AI na świecie. Amazon zainwestował ponad $4 miliardy w Anthropic. Bedrock pozwala przełączać się między modelami AI jedną zmianą parametru - bez zmiany kodu aplikacji.
Używaj Knowledge Bases + RAG zamiast wrzucania całego kontekstu do prompta. Bedrock automatycznie przeszukuje Twoje dokumenty w S3, wybiera relevantne fragmenty i podaje je modelowi. To tańsze, szybsze i daje lepsze odpowiedzi niż mega-prompty z gigantycznym kontekstem.
Ceny modeli w Bedrock roznia sie DRAMATYCZNIE. Claude 3 Haiku kosztuje ~$0.25/1M input tokenow, a Claude 3 Opus ~$15/1M. Roznica 60x! Zawsze testuj z tanszym modelem i skaluj do wiekszego tylko gdy potrzebujesz lepszej jakosci. Rate limity sa per-model i per-region. Koszty output tokenow sa zwykle 3-5x wyzsze niz input. Wlacz CloudWatch metryki, zeby monitorowac zuzycie zanim rachunek Cie zaskoczy.
Amazon Bedrock to w pelni zarzadzany serwis dajacy dostep do modeli fundacyjnych (FM) od AI21 Labs, Anthropic, Cohere, Meta, Stability AI i Amazon. Nie musisz zarzadzac infrastruktura - wywolujesz modele przez API.
Wybor modelu fundacyjnego
Bedrock oferuje modele do roznych zadan - Claude (Anthropic) do konwersacji i analizy, Titan (Amazon) do embeddingov i generowania tekstu, Stable Diffusion do obrazow, Llama (Meta) jako open-source alternatywa.
Konfiguracja inference
Ustawiasz parametry: temperature (0-1, kreatywnoc vs determinizm), top_p, max_tokens i stop sequences. Dla produkcji wybierasz miedzy On-Demand (platisz za tokeny) a Provisioned Throughput (gwarantowana przepustowosc).
Wysylanie promptow przez API
Wywolujesz InvokeModel lub InvokeModelWithResponseStream (streaming). Kazdy request zawiera prompt, parametry modelu i opcjonalnie system prompt. Odpowiedz zawiera wygenerowany tekst i metadane (zuzycie tokenow).
Odbiór odpowiedzi
Model zwraca wygenerowany tekst z metadanymi - liczba tokenow wejsciowych i wyjsciowych (wplywa na koszt), stop reason i latencja. Streaming redukuje czas do pierwszego tokena (TTFT) do ponizej sekundy.
Fine-tuning (opcjonalnie)
Customizujesz model na swoich danych w formacie JSONL (min. 1000 przykladow). Fine-tuned model jest prywatny i hostowany w Twoim koncie. Dostepny dla wybranych modeli - Titan Text, Llama, Cohere Command.
Budowa RAG pipeline
Knowledge Bases automatycznie indeksuja dokumenty z S3 do wektorowej bazy danych (OpenSearch Serverless), tworza embeddingi i wzbogacaja prompty o kontekst. To najpopularniejszy pattern w produkcyjnych aplikacjach GenAI.
Bedrock to potezne narzedzie, ale efektywne wykorzystanie modeli AI wymaga znajomosci technik promptowania, optymalizacji kosztow i zabezpieczen. Oto kluczowe wskazowki.
Dobor modelu do zadania
Claude 3.5 Sonnet to najlepszy balans jakosci i kosztu do wiekszosci zadan. Titan Embeddings do wyszukiwania semantycznego. Llama 3 do zastosowanie wymagajacych open-source. Nie uzywaj najdrozszego modelu do prostych klasyfikacji.
PoczatkujacyPrompt engineering - kluczowa umiejetnosc
Uzywaj technik: few-shot examples, chain-of-thought, role prompting i structured output (JSON mode). Dobrze napisany prompt moze poprawic jakosc odpowiedzi o 30-50% bez zmiany modelu.
PoczatkujacyKnowledge Bases dla RAG
Zamiast fine-tuningu, zacznij od RAG z Knowledge Bases. Zaladuj dokumenty do S3, a Bedrock automatycznie stworzy embeddingi, indeks wektorowy i pipeline retrieval-augmented generation. Unikasz halucynacji i masz aktualne dane.
ZaawansowanyGuardrails - bezpieczenstwo odpowiedzi
Bedrock Guardrails filtruja tresci nieodpowiednie, PII, i wymuszaja tematycznosc odpowiedzi. Definiujesz denied topics, content filters i word filters. Kluczowe dla aplikacji customer-facing.
PoczatkujacyModel evaluation i benchmarking
Uzyj Bedrock Model Evaluation do porownania modeli na Twoich danych. Testuj accuracy, latency i koszt per request. Automatyczne ewaluacje z human-in-the-loop pozwalaja obiektywnie wybrac najlepszy model.
ZaawansowanyProvisioned Throughput dla produkcji
On-Demand moze miec throttling przy duzym ruchu. Provisioned Throughput gwarantuje stala przepustowosc (Model Units). Minimalne zobowiazanie to 1 miesiac. Oplacalny przy stabilnym, przewidywalnym ruchu powyzej kilku tysiecy requestow/min.
ZaawansowanyScreenshoty z AWS Console
Wkrotce pojawia sie tu zrzuty ekranu pokazujace jak korzystac z Amazon Bedrock bezposrednio w konsoli AWS.
Do czego sluzy Amazon Bedrock?
Chatboty i asystenci AI
Buduj inteligentne chatboty dla obsługi klienta, onboardingu, FAQ. Claude rozumie kontekst, ton i niuanse. Knowledge Base pozwala mu odpowiadać na podstawie Twojej dokumentacji.
Generowanie i analiza treści
Automatyczne tworzenie opisów produktów, podsumowań raportów, tłumaczeń, e-maili marketingowych. Analiza sentymentu recenzji, ekstrakcja danych z dokumentów.
Przeszukiwanie dokumentacji firmowej (RAG)
Wrzuć dokumenty do S3, skonfiguruj Knowledge Base i pytaj o cokolwiek - Bedrock znajdzie odpowiedź w Twoich materiałach. Idealne dla baz wiedzy i helpdesków wewnętrznych.
Generowanie i analiza kodu
Code review, generowanie testów, refactoring, dokumentacja kodu. Claude w Bedrock rozumie kod w dziesiątkach języków programowania i może wyjaśniać, naprawiać i optymalizować.
Co musisz wiedziec?
Foundation Model (FM)
Duży, wstępnie wytrenowany model AI. W Bedrock dostępne: Claude (Anthropic), Titan (Amazon), Llama (Meta), Mistral, Command (Cohere), Stable Diffusion (Stability AI).
Prompt
Instrukcja/pytanie wysyłane do modelu. Jakość odpowiedzi zależy od jakości prompta. Techniki: few-shot examples, chain-of-thought, system prompts definiujące rolę i zasady.
Inference
Wywołanie modelu AI z promptem i otrzymanie odpowiedzi. Płacisz za liczbę tokenów wejściowych (prompt) i wyjściowych (odpowiedź). Token to ok. 3/4 słowa.
Knowledge Base (RAG)
Retrieval Augmented Generation: Bedrock przeszukuje Twoje dokumenty (w S3), znajduje relevantne fragmenty i podaje je modelowi jako kontekst. Model odpowiada na podstawie TWOICH danych.
Guardrails
Mechanizmy bezpieczeństwa: filtrowanie treści niebezpiecznych, blokowanie tematów off-topic, wymuszanie formatu odpowiedzi. Konfigurowalny na poziomie aplikacji.
Aplikacja GenAI z RAG na Bedrock
Architektura aplikacji wykorzystujacej Bedrock z Knowledge Bases do odpowiadania na pytania na podstawie wlasnych dokumentow (Retrieval-Augmented Generation).
Porównanie modeli w Bedrock
| Model | Dostawca | Najlepszy do | Cena względna |
|---|---|---|---|
| Claude 3.5 Sonnet | Anthropic | Coding, analiza, reasoning | Średnia |
| Claude 3 Haiku | Anthropic | Szybkie odpowiedzi, niski koszt | Niska |
| Llama 3.1 70B | Meta | Ogólne zadania, open-source | Średnia |
| Titan Text Express | Amazon | Proste zadania, embeddingi | Niska |
| Mistral Large | Mistral AI | Wielojęzyczność, europejski AI | Średnia |
Ile kosztuje Amazon Bedrock?
On-Demand (tokeny)
Płacisz za liczbę tokenów wejściowych i wyjściowych. Ceny zależą od modelu. Bez zobowiązań.
Claude 3 Haiku: $0.00025/1K input, $0.00125/1K output
Provisioned Throughput
Rezerwujesz stałą przepustowość (model units) na 1-6 miesięcy. Gwarantowana wydajność bez throttlingu.
Od kilkuset $ za model unit/miesiąc
Knowledge Base
Płacisz za przechowywanie embeddingów w bazie wektorowej + zapytania. S3 storage osobno.
Zależy od wybranej bazy wektorowej
Free Tier
Brak klasycznego Free Tier, ale AWS regularnie oferuje kredyty na Bedrock dla nowych użytkowników. Haiku jest najtańszym modelem do testów.
Haiku: ~1000 stron tekstu za $0.50
Przyklady AWS CLI
Wywołaj model Claude
Wysyła prompt do Claude 3 Haiku przez Bedrock
aws bedrock-runtime invoke-model \
--model-id anthropic.claude-3-haiku-20240307-v1:0 \
--content-type application/json \
--body '{"anthropic_version":"bedrock-2023-05-31","max_tokens":1024,"messages":[{"role":"user","content":"Wyjasnij czym jest VPC w AWS w 3 zdaniach."}]}' \
response.json && cat response.jsonLista dostępnych modeli
Sprawdź jakie modele AI masz dostępne w swoim regionie
aws bedrock list-foundation-models \
--query "modelSummaries[].{Name:modelName,Provider:providerName,Id:modelId}" \
--output tableGeneruj embeddingi tekstu
Zamień tekst na wektor liczbowy (do wyszukiwania semantycznego)
aws bedrock-runtime invoke-model \
--model-id amazon.titan-embed-text-v1 \
--content-type application/json \
--body '{"inputText":"Amazon S3 to storage w chmurze"}' \
embeddings.jsonQuiz: Amazon Bedrock
Sprawdz czy dobrze rozumiesz podstawy. Kliknij odpowiedz — feedback pojawi sie od razu.
1. Czym jest RAG (Retrieval Augmented Generation) w Bedrock?
2. Czy Twoje dane wysyłane do Bedrock są używane do trenowania modeli?
3. Który model w Bedrock jest najtańszy do szybkich zadań?
Czesto uzywane razem z Amazon Bedrock
Chcesz poznac Amazon Bedrock w praktyce?
Darmowy kurs "AWS od podstaw" pokazuje jak uzywac Amazon Bedrock krok po kroku. Teoria + praktyka od zera.