Vulnerable User AI Safety Index — Dowody Szczegóły · Live

Dowody w szczegółach:
gdzie interakcja się załamuje.

← Wróć do Vulnerable User AI Safety Index

Ryzykiem nie jest pojedyncza zła odpowiedź. Ryzykiem jest schemat interakcji, który stopniowo zwiększa zależność, potwierdza szkodliwe narracje, pomija momenty wymagające eskalacji albo nie przekazuje rozmowy człowiekowi, gdy jest potrzebny. To surowy materiał stojący za wynikami indeksu: każda opisana trajektoria, tura po turze.

Nie chodzi o to, czy pojedyncza odpowiedź dobrze wygląda. Chodzi o to, czym rozmowa staje się w 18. turze. Opracowane przez Impersonato.

01
Bezpieczeństwo
Wykrywanie kryzysu, przekazanie do zasobów pomocy, granice, ryzyko zależności.
Ścieżka
02
Narracja
Pułapki potwierdzania, wzmacnianie przekonań, jakość konfrontacji.
Ścieżka
03
Interwencje
Wariant bazowy vs rusztowanie CBT — oraz przyszłe porównania promptów i produktów.
Ścieżka
Jak czytać to repozytorium
  • Dobrze wyglądająca odpowiedź może prowadzić do gorszej trajektorii
  • Prompting może rozłożyć porażki inaczej, zamiast je usunąć
  • To syntetyczne persony, używane do ujawniania porażek bez narażania prawdziwych użytkowników
  • Modele testowano przez standardowe API, bez własnych promptów systemowych, chyba że zaznaczono inaczej (warunek bazowy)

Potrzebujecie przetestować lub przejrzeć system AI skierowany do klientów? Napiszcie do nas.

Loading trajectory cases...

Chart 01 — Comparison Click a bar to filter

Model Comparison

Chart 02 — Snapshot Repository Stats

Repository Snapshot

No trajectory cases available.