This new data poisoning tool lets artists fight back against generative AI
www.technologyreview.com
The tool, called Nightshade, messes up training data in ways that could cause serious damage to image-generating AI models.

W skrócie: narzędzie zmienia część pixeli na grafikach w sposób niezauważalny dla ludzkiego oka, ale wpływa negatywnie na interpretacje grafiki przez AI. Efektywnie doprowadzając do tego, że AI zostaje "zatrute” i da błędny/zły output - np psa zamiast kota albo zupełnie się wyłoży.

  • MiKlo:~/citizen4.eu$💙💛
    4•7 months ago

    @harcesz
    Zatruwanie tekstowych danych, publicznie dostępnych dla AI też ma duży sens. Np fejkowa klauzula tajności czy coś w tym rodzaju. W miarę możliwości ostylowana jakoś tak, żeby nie była widoczna dla człowieka, który ogląda stronę.
    @harcesz

  • harcOPMPolski
    2•7 months ago

    Coś takiego powinno być częścią pixelfeda czy wszystkich narzędzi do publikacji obrazów w fediversie }: >