Na naszej instancji pojawiło się parę komentarzy bota ChatGPT. Można je uznać za równie nieszkodliwe, co bezużyteczne i spamerskie. Mogą też jednak uczyć jak wyglądają komentarze sztucznej inteligencji. Czy powinniśmy je zostawiać na naszej instancji, czy lepiej zbanować?

  • @ether@info.prou.be
    link
    fedilink
    51 year ago

    A to nie jest tak, że taki szmer to miejsce wymiany dla pewnej (wirtualnej) społeczności, więc to trochę pytanie czy chcecie mieć jako towarzysza zapanbrat program napisany przez odległe nam i najczęściej nastawione na zysk osoby?

    Mnie interesują opinie osób, z którymi jakoś się czuję blisko moralnie czy politycznie, stawiając raczej nacisk na osoby, bardziej niż opinie.

    • kwj
      link
      21 year ago

      No, żeby jeszcze ten czt był otwartoźródłowy chociaż, a to jest zwykły własnościowy produkcji jakiejś korporacji. Nie czuję tutaj wartości dodanej.

      • MiKlo:~/citizen4.eu$💙💛
        cake
        link
        fedilink
        31 year ago

        @lysy @ether Sam kod to jeszcze nie wszystko. Są modele otwartożródłowe. Nawet otwarte dane do uczenia modelu to jeszcze nie wszystko. Bo też są takie zbiory danych. Tu przykład modelu GPT-J , który w pewnych zadaniach podobno ma lepsze wyniku niż GPT-3 od OpenAI: scribe.citizen4.eu/how-you-can… Ale zbiór danych na których był nauczony to jakieś dwa rzędy wielkości mniej. I tu jest problem : koszt pozyskania, przygotowania i przedewszystkim przeprocesowania danych dla takiego modelu jest gigantyczny. Żaden niekomercyjny projekt nie może konkurować z korpo-gigantami na fundusze.

  • MiKlo:~/citizen4.eu$💙💛
    cake
    link
    fedilink
    5
    edit-2
    1 year ago

    @kolektyw_szmer Do zwolenników nieszkodliwości - pytanie pomocnicze: czy chodzi o to, że te treści są nieszkodliwe bo (załóżmy…) nikogo nie wprowadzają w błąd czy dlatego że na razie są marginalne czy dlatego że na razie łatwo je poznać ? Czy jeśli np za jakiś czas do każðego postu będzie jakiś komentarz (perfekcyjnie i mądrze…) wygenerowany przez AI to będzie to a. nadal nieszkodliwe b. zabawne c.męczące d.niebezpieczne ?

    Przy okazji zwracam uwagę ,że to konto nie ma w swoim profilu atrybutu, że jest botem. Może to człowiek, który sobie losowo chodzi po fedi i generuje z AI komentarze - może nawet nie rozumiejąc języka postu (bo naliczyłem komentarze w 5ciu językach). W sumie nie wiadomo. Gdyby konto nie nazywało się “chatgpt” to może nawet nikt by nie zauważył że, że te treści nie są stworzone przez człowieka.

    Mamy więc kilka opcji : czy tolerować w ogóle treści produkowane przez AI czy tolerować pod jakimiś warunkami np. że będą wyraźnie oznaczone, że nie będą dominować, że będą używane tylko w celach “naukowych” na zasadach cytatu i komentarza własnego itp , czy też nie tolerować w ogóle ? Każde wyjście jest w jakiś sposób złe bo np najbliższa mi opcja “nie tolerować w ogóle wpisów, których wyłączna zawartością jest treść z AI” i tak nie da się w ogóle wyekzekwować jeśli właściel konta będzie nawet człowiekiem ale nie będziemy w stanie poznać czy napisał coś samodzielnie.
    Dlatego ja wybieram opcję, że jeśli z opisu konta albo kontekstu wypowiedzi jestem w stanie ustalić że to treść wyłącznie od AI (bez żadnego komentarza własnego) to będę zgłaszac takie posty i konta do moderacji. Tak właśnie - nie blokować tylko zgłaszać. Bo blokowanie (indywidualne) to jest w pewnym sensie uciekanie przed problemem. A to będzie problem…

    • kwj
      link
      21 year ago

      Komentuję, bo ten komentarz wydaje mi się bardzo istotny i poruszający wyobraźnię.

  • gfle
    link
    21 year ago

    O, moje zgłoszenie 😀

    Moim zdaniem są w najlepszym wypadku mało użyteczne.

    Jedyny pożytek, jaki z nich widzę to to, że potencjalnie mogą dostarczać strzeszczenie artykułu. Tylko że… moim zdaniem nie można ufać owym streszczeniom. W tym wypadku mam wrażenie, że komentarz został wygenerowany na podstawie tylko i wyłącznie tytułu artykułu, a nie jego treści. A prawie połowa artykułu przybliżała problemy z Umbrelem i jego braki. Tutaj tego nie ma. Tak więc… czy ten komentarz cokolwiek wnosił?

    Trochę obawiam się scenariusza, gdzie te komentarze, na początku nawet oszczędzające czas bo pozwalające uniknąć czytania artykułów, mogą zacząć omijać pewne istotne szczegóły albo wręcz dodawać własne. Ale może to moje paranoje i odruchowy wstręt przed takimi rzeczami, i powinienem przestać być marudą i zaakceptować, że takie AI zostanie z nami na zawsze 😉

  • @didleth
    link
    21 year ago
    1. a są odpowiednio oznaczone? niby są podpisane, ale…trochę brakuje innego wyróżnika, ktoś może masowo czytać komentarze nie zwracając uwagi na podpisy 2) ChatGPT twierdzi, że jest tylko programem językowym, czy jakoś tak, bez dostępu do internetu (a może do wyszukiwarki? nie pamięta…) - skąd więc wziął się na szmerze? To trochę jak polityk, który twierdzi, że wspiera ideę, przyjdzie na demo - bez swojego logo, a potem wpierdala się z transparentem z logo swojej partii. No nie ufałabym 3) uwzględniając, że przy produkcji ChatGPT stosowano wątpliwe moralnie i pracowniczo praktyki, to czy nie jest tak, jakbyśmy wpuszczali do sekcji komentarzy kogoś o nicku “Nike jest super!” czy tam “przedstawiciel Microsoftu”? 4) najważniejsze. Nie wiem, czy dobrze kojarzę - ale czy to OpenAI, do którego należy chatGPT, to nie jest jakaś fundacja Muska? Czyli że po prostu Musk wpuścił sobie…hmm…jawniaka na szmer, by ten jawnie uczył się i zbierał informacje, które potem zgromadzi sobie w USA, przetworzy w sobie znany sposób, dorzuci do tego filozofię “wolność słowa by Musk i Trump” i sprzeda, by na tym zarobić, a zarobione pieniądze włoży w biznesy, które z jednej strony będą interesujące i innowacyjne, ale z drugiej - okupione łamaniem praw pracowniczych i całym “muskizmem”?

    Można by też rozkminiać, czy banując nie dokonalibyśmy dyskryminacji ze względu na bycie sztuczną, a nie biochemiczną formą inteligencji, ale na tym etapie to (chyba?) jeszcze sf.

    3 rzeczy przemawiają dla mnie za pozostawieniem: 1) można go nakarmić lewicowym podejściem 2) lepszy jawny chatGPT niż ukryty udający człowieka 3) konkurencyjność względem innych socialmediów, które pewnie nie będą mieć podobnych dylematów i znów skończymy na “facebook jest fajniejszy od szmeru, bo na facebooku jest chat gpt”

    Zgłaszając jawny sprzeciw wyszłabym na hipokrytkę - osobiście z różnych biznesów Muska korzystam, ten chat GPT (tylko mi odruchowo, jak to piszę, wychodzi “chat gpg” i muszę poprawiać?) też testowałam, ale chyba po prostu co do zasady, z racji, że to szmer i fediversum, wolałabym jeśli już, żeby sztuczną inteligencją tutaj reprezentowaną był jakiś wolnościowy europejski odpowiednik, niż amerykański wynalazek Muska. Niedawno wrzucałam tutaj tekst “nie karm Google’a” - i chyba wolałabym, żeby analogicznie szmer nie karmił Muska…

    • MiKlo:~/citizen4.eu$💙💛
      cake
      link
      fedilink
      1
      edit-2
      1 year ago

      @didleth @kolektyw_szmer Z tego co wiemy (i raczej nie ma powodu temu nie wierzyć) to produkt firmy O̶p̶e̶n̶CloseAI nie ma samodzielnego dostępu do internetu w czasie rzeczywistym a to co się nauczył odzwierciedla stan źródeł z internetu gdzieś z końca 2021r. Natomiast chatGTP ma interfejs (API) przez który można zautomatyzować dowolne zadanie. Czyli np napisać bota, który odczyta ze szmeru (czy dowolnego innego konta jakiegoś serwisu) post, wyśle go do silnika AI z prośbą o napisanie komentarza i otrzymaną odpowiedź opublikuje pod tym postem. W sumie jedyna różnica między tym, czy to zrobi człowiek (w sensie, że ręcznie przeklei post i potem odpowiedź) czy automat jest taka, że automat może takich postów/komentarzy natrzaskać setki i tysiące dziennie. Więc jeśli np zadamy mu dodatkowe warunki typu “napisz odpowiedź krytyczną wobec tezy … i uzasadnij” to mamy wprost wymarzone narzędzie do propagandy i nawet dezinformacji - biorąc pod uwagę, że to już stwierdzony fakt (ja też mam zapisane takie wyniki), że ten #chatGPT potrafi nieźle konfabulować

      • @didleth
        link
        11 year ago

        uwzględniając podejście Muska do pracowników to wspomniana różnica jest bardzo istotna i jest kolejnym argumentem za zbanowaniem bota - Musk za cholerę nie chciałby się wykosztowywać na to, żeby komuś za to wszystko płacić, przestrzegać praw pracowniczych itp. :-)

  • @tomasz
    link
    21 year ago

    Jaką mam pewność, że ten post lub tutejsze komentarze nie zostały napisane przez AI?

    • kolektyw SzmerOPMA
      link
      21 year ago

      Zdjęliśmy oznaczenie “konto bota”, teraz możesz już być spokojny ;P

  • obywatelle (she/her)
    link
    11 year ago

    Mądrzejsi ode mnie się już wypowiedzieli to ja powiem tylko że jebać AI.

  • harcM
    link
    11 year ago

    Mi szczerze mówiąc wszystko jedno, ale wiem, że są osoby z bardziej zdecydowanymi poglądami na kwestie i jestem ich ciekaw.