@eliwuu @ANTIFA_JAWORZNO
Czy to zdanie nie miało przypadkiem brzmieć “pokazuje sie ai jako cos, czego istnienie jest zagrożeniem dla ludzi” ?
To ze na obecnym etapie modele IA są jeszcze lata świetlne od etapu tzw. Super inteligencji (która przewyższa ludzką pod każdym wględem, jest w stanie sama wyznaczać dla siebie cele , itd.) to wcale nie znaczy nie są zagrożeniem dla ludzi.
Ale nie przez swoje autonomiczne działanie tylko (m.in.) przez potencjał jaki na jej wyniki mogą mieć różne, trudne do kontroli i przewidzenia działania właśnie ludzi.
Kiedy taki model zostanie (a wygląda, że może już został) “uwolniony” - w tym sensie, że na wyniki wpływają informacje na bieżąco dodawane do modelu - to ten proces może tworzyć różne niebezpieczne sprzężenia zwrotne.
Jeżeli , ktoś świadomie, mając określony cel i niezbędne do tego środki, wygeneruje w internecie informacje, które mają intencję wpływać na wyniki modelu (kiedy zostaną do niego dodane) to specyfika działania modelu wyklucza takie zwykłe “skasowanie” danych przez twórców. Można jedynie korygować/przykrywać ich efekt nowymi danymi albo jakimś zbiorem reguł. Ale żeby coś korygować to przecież trzeba mieć świadomość ,że wystąpił jakiś problem - a nie zawsze ich wynikiem będzie publikacja w internecie czy bezpośrednie zgłoszenie. Jacyś źli aktorzy mogą próbować (i na pewno będą to robić) delikatnie “przesuwać” wyniki tak żeby wyjście modelu realizowało jakieś ich cele (polityczne, biznesowe) a jednocześnie żeby to przesunięcie było trudne do wychwycenia albo skojarzenia z konkretnym działaniem (np zawartościa jakiś stron w necie czy postów w social-mediach).

#ai #llm ⚠️ #AiWarning ⚠️