Privacy
Prywatność w ogniu: AI, dane uczniów i błędy policji
Fałszywe rozpoznawanie twarzy, kontrowersje wokół danych uczniów, AI w szkołach i walka o prywatność dzieci – przegląd najważniejszych wydarzeń.
Prokuratura umarza śledztwo w sprawie AI-deepfake 14-latki – Prezes UODO skarży do sądu
Prokuratura umorzyła śledztwo dotyczące przerobienia zdjęcia 14-latki za pomocą AI i opublikowania go w mediach społecznościowych. Prezes UODO Mirosław Wróblewski interweniował wcześniej u Prokuratora Generalnego, co doprowadziło do wznowienia postępowania, ale śledczy nie przeprowadzili nowych czynności i ponownie umorzyli sprawę. Zdaniem organu nadzorczego doszło do przetwarzania danych osobowych bez podstawy prawnej – modyfikacja wizerunku stanowi przetwarzanie, niezależnie od źródła zdjęcia. Prezes UODO złożył zażalenie do sądu, zarzucając prokuraturze błędną interpretację art. 107 ustawy o ochronie danych oraz brak działań zmierzających do ustalenia sprawców.
Microsoft tymczasowo blokuje Claude Fable 5 z powodu polityki przechowywania danych
Firma Anthropic wprowadziła nowe wymogi retencji danych: może przechowywać prompty i wyniki przez 30 dni, a treści flagowane przez systemy bezpieczeństwa nawet do 2 lat. Microsoft w odpowiedzi tymczasowo zakazał pracownikom korzystania z modelu Claude Fable 5, obawiając się, że wrażliwe dane klientów lub informacje korporacyjne mogą zostać ujawnione konkurencyjnej firmie. Zespoły prawne i compliance Microsoftu analizują zmiany, a decyzja może mieć też wymiar finansowy – licencje na Claude Code wygasną 30 czerwca, co zbiega się z końcem roku podatkowego i dążeniem do redukcji kosztów.
Nowy Jork: 29 radnych wzywa do dwuletniego moratorium na AI w szkołach
Ponad połowa nowojorskich radnych wysłała list do burmistrza i kanclerza szkół, domagając się dwuletniego moratorium na wykorzystanie sztucznej inteligencji w największym systemie szkolnym USA. Głównym powodem są obawy o ochronę danych uczniów – zdaniem sygnatariuszy opublikowane wytyczne są „wadliwe” i nie zawierają propozycji wzmocnienia prywatności. Audyt stanowego kontrolera wykazał, że polityka cyberbezpieczeństwa miasta nie spełnia standardów NIST. W tle rośnie ogólnokrajowa presja – koalicja Fairplay wzywa do pięcioletniego moratorium na generatywną AI w edukacji, a prezes AFT zaproponowała całkowity zakaz narzędzi AI dla uczniów w klasach początkowych.
NYC schools face public pressure to pause AI use for 2 years →
Mężczyzna z Florydy pozywa policję za fałszywe rozpoznanie przez AI – pomyłka kosztowała go miesiące procesu
Robert Dillon został aresztowany pod zarzutem nakłaniania dziecka do ucieczki, mimo że mieszkał ponad 300 mil od miejsca zdarzenia i nigdy go nie odwiedził. System rozpoznawania twarzy Faces wskazał go jako 93% zgodność z podejrzanym, ale śledczy zignorowali dowody alibi – automatyczne czytniki tablic rejestracyjnych potwierdziły, że jego samochody nie były w pobliżu restauracji McDonald’s, a pracownica wytypowała go jako stałego klienta, co było fizycznie niemożliwe. Prokuratura wycofała zarzuty, ale Dillon pozwał lokalne wydziały policji i szeryfa, reprezentowany przez ACLU. To co najmniej 15. znany przypadek w USA, gdzie niedokładne dopasowanie AI doprowadziło do aresztowania i ścigania niewinnej osoby.
📡 Z social mediów
Apple w ogniu krytyki: 2680 ofiar pozywa firmę za zaniechanie wykrywania CSAM
W 2021 roku Apple zapowiedziało system skanowania zdjęć na urządzeniach w celu wykrywania materiałów wykorzystywania seksualnego dzieci, ale wycofało się po protestach obrońców prywatności, którzy ostrzegali przed ryzykiem przekształcenia go w narzędzie masowej inwigilacji. Cztery lata później grupa 2680 ocalałych pozywa Apple na 1,2 miliarda dolarów, argumentując, że rezygnacja pozwoliła na dalsze krążenie ich zdjęć – podczas gdy Google w 2023 roku zgłosiło 1,47 miliona przypadków CSAM, Apple tylko 267. Dodatkowo prokurator generalny Wirginii Zachodniej złożył osobny pozew, cytując wewnętrzne dokumenty, w których Apple rzekomo nazywało siebie „najlepszą platformą do dystrybucji dziecięcej pornografii”. Spór uwidacznia nierozwiązywalny dylemat między ochroną prywatności a bezpieczeństwem dzieci – obie strony mają rację, ale brakuje rozwiązania spełniającego oba wymogi.