Duży model językowy (LLM)
Skrót: LLM
Large Language Model: model sztucznej inteligencji wytrenowany na ogromnych zbiorach tekstu, który na podstawie polecenia pisze, streszcza i tłumaczy tekst albo kod. Na nim działają czaty AI i asystenci w narzędziach.
NIST opisuje duże modele językowe jako coraz ważniejszą część oprogramowania i infrastruktury internetu: napędzają wyszukiwarki, pomagają programistom pisać kod i obsługują czaty, z których codziennie korzystają miliony ludzi. Coraz częściej dostają też dostęp do firmowych baz i dokumentów albo prawo do działania, na przykład przeglądania stron czy wydawania poleceń w terminalu. Wtedy mówi się o agencie AI.
Dla podmiotu objętego ustawą o KSCUstawa o KSC Ustawa z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa. Po nowelizacji z 2026 r. wdraża dyrektywę NIS2 i określa obowiązki podmiotów kluczowych i ważnych. model językowy jest przede wszystkim usługą ICT, a często usługą zewnętrznego dostawcy. Ustawa go nie wymienia, ale obowiązki szacowania ryzykaSzacowanie ryzyka Proces, w którym podmiot ustala, co może zagrozić jego systemom, jak bardzo jest to prawdopodobne i jakie byłyby skutki. W praktyce mówi się też „analiza ryzyka”., zarządzania aktywami i bezpieczeństwa łańcucha dostawŁańcuch dostaw Dostawcy sprzętu, oprogramowania i usług ICT, od których zależy świadczenie usługi. Ich bezpieczeństwo podmiot uwzględnia w swoim zarządzaniu ryzykiem. obejmują go tak samo jak pocztę w chmurze. Pytam więc, jakie dane trafiają do modelu, gdzie są przetwarzane, kto ma do nich dostęp i co model może zrobić sam, bez człowieka.
NIST zwraca uwagę na ataki, których nie było w klasycznym oprogramowaniu. Najbardziej znany to wstrzyknięcie polecenia (prompt injection): napastnik ukrywa instrukcję w dokumencie, mailu albo na stronie, którą model czyta, i model ją wykonuje. Im więcej uprawnień ma agent, tym większe skutki takiego ataku.
Powiązane pojęcia
Gdzie pada to pojęcie
- Autopay potwierdziło nieautoryzowany dostęp do infrastruktury i części danych o płatnościach
- Czy podmiot kluczowy lub ważny potrzebuje SOC-u? Informatyk, własny zespół czy usługa i ile to kosztuje
- Lokalne modele językowe w pracy nad bezpieczeństwem. Które pobrać, do czego i w jakich granicach prawa
- Shadow AI w podmiocie kluczowym i ważnym. Jak ująć ChatGPT w SZBI, zamiast go zakazywać?