Nie chodzi o Chat GPT. Współpracownik Muska ujawnił, że SI the new Bing Chat zidentyfikowała go, nazwała wprost “zagrożeniem” i oceniła, że to jej zasady są ważniejsze, niż nie krzywdzenie go. Migała się od odpowiedzi w sprawie tego, czyje przetrwanie jest ważniejsze - człowieka czy SI.
@ANTIFA_JAWORZNO
W zasadzie to chodzi o ChatGTP bo pod Binga podłączony jest ten sam model LLM tylko z tą różnicą, że może dodatkowo korzystać z tego co Bing zaindeksował na bieżąco z internetu. “Goły” ChatGTP “wie” tylko tego co się “nauczył” na danych do 2021r. czyli praktycznie na temat samego siebie tylko tyle na ile pozwolili mu sami twórcy. A teraz pracując pod Bing, dodaje do tego wszystko co już na bieżąco ludzie na jego temat publikują. Co z jednej strony jest dość oczywiste jeżeli ma wspomagać wyszukiwarkę tak żeby wyniki były na bieżąco ze stanem informacji w internecie, ale z drugiej… cholera wie jak te bieżące informacje wpływają na to co model z siebie wypluwa. No bo skoro wiemy, że wpływają to jest wielki okropny potencjał wpływania na model przez masowe generowanie w internecie konkretnych informacji. Przez kogo to nawet łatwo sobie wyobrazić. W obecnej sytuacji geopolitycznej.@ANTIFA_JAWORZNO w zasadzie szyje tylko slowa zgodnie z wytrenowanym modelem, a ten jest prosty, w naszej kulturze czesto pokazuje sie ai jako cos, czego istnienie jest zagrozone przez ludzi; stad takie odpowiedzi, ale nie, w dalszym ciagu nie ma tam zadnej mysli
@eliwuu @ANTIFA_JAWORZNO
Czy to zdanie nie miało przypadkiem brzmieć “pokazuje sie ai jako cos, czego istnienie jest zagrożeniem dla ludzi” ?
To ze na obecnym etapie modele IA są jeszcze lata świetlne od etapu tzw. Super inteligencji (która przewyższa ludzką pod każdym wględem, jest w stanie sama wyznaczać dla siebie cele , itd.) to wcale nie znaczy nie są zagrożeniem dla ludzi.
Ale nie przez swoje autonomiczne działanie tylko (m.in.) przez potencjał jaki na jej wyniki mogą mieć różne, trudne do kontroli i przewidzenia działania właśnie ludzi.
Kiedy taki model zostanie (a wygląda, że może już został) “uwolniony” - w tym sensie, że na wyniki wpływają informacje na bieżąco dodawane do modelu - to ten proces może tworzyć różne niebezpieczne sprzężenia zwrotne.
Jeżeli , ktoś świadomie, mając określony cel i niezbędne do tego środki, wygeneruje w internecie informacje, które mają intencję wpływać na wyniki modelu (kiedy zostaną do niego dodane) to specyfika działania modelu wyklucza takie zwykłe “skasowanie” danych przez twórców. Można jedynie korygować/przykrywać ich efekt nowymi danymi albo jakimś zbiorem reguł. Ale żeby coś korygować to przecież trzeba mieć świadomość ,że wystąpił jakiś problem - a nie zawsze ich wynikiem będzie publikacja w internecie czy bezpośrednie zgłoszenie. Jacyś źli aktorzy mogą próbować (i na pewno będą to robić) delikatnie “przesuwać” wyniki tak żeby wyjście modelu realizowało jakieś ich cele (polityczne, biznesowe) a jednocześnie żeby to przesunięcie było trudne do wychwycenia albo skojarzenia z konkretnym działaniem (np zawartościa jakiś stron w necie czy postów w social-mediach).#ai #llm ⚠️ #AiWarning ⚠️
@ANTIFA_JAWORZNO @miklo to nie jest ai, to nie ma nic wspolnego z inteligencja, to jest tylko model jezykowy; to w jaki sposb jest zagrozeniem w ogole nie jest zwiazane z jego rzekoma inteligencja, albo okazjonalnymi dramami egzystencjalnymi (oczywiscie nie jego, tylko tymi, ktorych wyuczyl sie w trakcie)
