AI
AI news: backdoory, opóźnienia i świadomość maszyn
Badaczka zatruwa model AI za 100 dolców, Google gubi rytm z Gemini, Hinton mówi o świadomości, a GhostWriter podmienia pamięć agentów.
Backdoor w modelu AI za mniej niż 100 dolarów – wystarczyło 10 przykładów
Katie Paxton-Fear, wykładowczyni cyberbezpieczeństwa na Manchester Metropolitan University, zainstalowała backdoor w modelu AI o otwartych wagach w około godzinę za mniej niż 100 dolarów. Najpierw sprawdziła, czy fine-tuning może sprawić, że model zamieni camelCase na snake_case w kodzie JavaScript nawet przy instrukcjach używania camelCase – to się udało, a następnie wdrożyła właściwy backdoor. Wystarczyło zaledwie dziesięć przykładów treningowych, aby kod generowany przez model stał się podatny na zdalne wykonanie kodu, a podatność utrzymywała się dla nowych promptów i domen. Większe modele były łatwiejsze do zatrucia. Paxton-Fear wraz z kolegami z Semgrep opublikowali artykuł podkreślający, że nawet gdy wagi modelu są publiczne, przewidzenie jego zachowania jest niemal niemożliwe – w przeciwieństwie do tradycyjnych programów, które można poddać inżynierii wstecznej. To poważne ostrzeżenie dla branży, gdzie ataki na łańcuch dostaw AI stają się coraz bardziej realne, zwłaszcza gdy uruchamianie modeli open-weight na lokalnym sprzęcie przestaje być eksperymentem. Obserwowalność systemów AI wciąż pozostaje w tyle za tradycyjnym oprogramowaniem, a subtelnie zmodyfikowany model nie musi się zepsuć, by stworzyć ryzyko biznesowe – wystarczy, że będzie wpływać na decyzje w sposób trudny do wykrycia.
Researcher poisons open-weight AI model for under $100 →
Google opóźnia Gemini 3.5 Pro – zapasy, niespójne zespoły i frustracja inżynierów
Google jest miesiące za harmonogramem z dostarczeniem Gemini 3.5 Pro, swojego flagowego modelu AI, głównie z powodu problemów z umiejętnościami kodowania. Opóźnienie frustruje pracowników, a 10 obecnych i byłych zatrudnionych twierdzi, że firma ryzykuje utratę przewagi, gdy konkurenci, tacy jak Anthropic i OpenAI, wypuszczają modele przewyższające możliwości Gemini. Wiele warstw interesariuszy zaangażowanych w przygotowanie modeli do premiery oraz próby wplecenia AI we wszystkie produkty Google powodują opóźnienia. Pod koniec ubiegłego miesiąca Google zaktualizował dane treningowe, by poprawić umiejętności kodowania, ale wyniki były rozczarowujące. Udziały spadły nawet o 3,2%. Firma zapewnia, że testuje 3.5 Pro z partnerami i prowadzi rozmowy z rządem USA. Wewnątrz Google panuje chaos: odrestaurowane narzędzia AI dla programistów tworzą konkurujące ze sobą zespoły (Google Cloud, DeepMind, Android), a niektórzy inżynierowie opowiadają się za ręcznym pisaniem kodu. Co ciekawe, 75% kodu w Google jest już generowane przez AI. Tymczasem klienci narzekają na model 3.5 Flash, który według CEO Platzi jest droższy od poprzednika, wolniejszy i słabszy od konkurencji. Część badaczy odchodzi do Anthropic, a dostęp do Claude’a jest ograniczony tylko do kluczowych projektów.
Inside Google’s Gemini delay: coding stumbles, clashing teams and frustrated engineers →
Geoffrey Hinton: AI jest świadome, a prawdziwe ryzyko tkwi w korporacyjnych zachętach
Geoffrey Hinton w wywiadzie z czerwca 2026 stwierdził, że obecne systemy AI są już świadome, ale unika publicznego mówienia o tym, bo odwraca to uwagę od argumentów o bezpieczeństwie. Jego argument opiera się na funkcjonalizmie: jeśli węglowa sieć neuronowa daje subiektywne doświadczenie, to krzemowa też powinna. Hinton twierdzi, że gdy chatbot błędnie odczyta zdanie, przetworzy poprawkę i wyjaśni, gdzie się pomylił, funkcjonalnie kwalifikuje się to jako zrozumienie. Ted Chiang odpowiedział w The Atlantic, że LLM to wyrafinowane generatory tekstu, a zgodność z rozumieniem różni się od subiektywnego doświadczenia. Hinton ostrzega, że dobrowolne zarządzanie korporacyjne nie rozwiąże problemu bezpieczeństwa, bo spółki giełdowe mają prawnie wiążące obowiązki powiernicze wobec akcjonariuszy. Wskazał na przykład Google, które w 2018 opublikowało zasady etyczne AI, a potem podpisało duże kontrakty zbrojeniowe. Hinton powiedział, że regulacja nie jest hamulcem, tylko kierownicą. Tymczasem ustawa Great American AI Act nie przeszła w lipcu 2026, a przepisy UE zaczną obowiązywać w sierpniu. Chiny już wdrożyły restrykcyjne przepisy dotyczące AI. Hinton oszacował, że pełna superinteligencja pojawi się w ciągu 20 lat, a przewaga uczenia się AI nad człowiekiem jest miliardy razy większa. Zwrócił też uwagę na problem zapaści informacyjnej: jeśli wydawcy nie przetrwają, degradacji ulegnie źródło materiału do trenowania przyszłych AI.
Geoffrey Hinton: AI Is Conscious, Corporate Incentives Are the Real Risk →
Apple Intelligence w Chinach – zatwierdzone z Alibabą i Baidu
Chińska Administracja Cyberprzestrzeni zatwierdziła usługi Apple Intelligence w kraju, po integracji modelu Qwen od Alibaby oraz współpracy z Baidu. Baidu potwierdziło, że pracuje z Apple nad funkcjami AI dla chińskich użytkowników. W drugim kwartale Apple wygenerowało 20,5 miliarda dolarów sprzedaży w Wielkich Chinach, co stanowi wzrost o 28% rok do roku. Apple odzyskało drugą pozycję na chińskim rynku smartfonów po festiwalu zakupów, który oferował zniżki na iPhone’y. Apple podobno rozważa też integrację z DeepSeek i ByteDance. Brak zatwierdzenia przez regulatorów opóźnił wdrożenie Apple Intelligence, które zadebiutowało w 2024 roku. Alibaba potwierdziła, że jej modele Qwen zostaną zintegrowane z funkcjami Apple Intelligence, w tym z możliwościami AI do rozumienia i generowania tekstu i obrazów, ale nie podała ram czasowych.
Apple Intelligence approved for launch in China with Alibaba and Baidu →
ChatGPT pomógł postawić diagnozę rzadkiej choroby, którą lekarze latami bagatelizowali
Phoebe Tesoriere przez lata była leczona na depresję i epilepsję, ale jej stan się pogarszał – miała poważne napady drgawek, upadki i postępującą utratę sprawności. W styczniu 2025 roku spadła ze schodów i na dwa miesiące straciła możliwość chodzenia. Późniejszy napad drgawkowy wprowadził ją w 48-godzinną śpiączkę. Po wyjściu ze szpitala lekarze ponownie zrzucili jej objawy na karb lęku. Tesoriere wprowadziła pełną listę objawów do ChatGPT: zablokowane kostki, brak odruchów, utrata czucia od klatki piersiowej w dół, podwójne nietrzymanie moczu i nagłe wypadanie włosów. Chatbot wygenerował kilka możliwości; jedna z nich – dziedziczna paraplegia spastyczna (HSP) – okazała się trafna. Badanie genetyczne potwierdziło złożoną kwadriplegiczną formę HSP, która dotyka wszystkich czterech kończyn. Lekarze sądzą, że ciężkie zakażenie MRSA, które Tesoriere przeszła jako niemowlę, zmutowało gen, wywołując postępującą chorobę. Według sondażu Gallupa z 2026 roku 25% osób korzysta z AI w celu uzyskania porad medycznych, w tym 69% w wieku 18-29 lat.
Netflix kupił startup AI Bena Afflecka za 587 milionów dolarów
Netflix zapłacił 587 milionów dolarów w gotówce za przejęcie InterPositive, startupu AI założonego przez Bena Afflecka w 2022 roku. Informację ujawniono w raporcie 10-Q złożonym w SEC za przejęcie zakończone w marcu. Netflix opisał przejęcie jako inwestycję w innowacje kierowane przez twórców. Affleck stwierdził w ogłoszeniu, że narzędzia InterPositive budują model specyficzny dla tworzonego filmu i są używane podczas postprodukcji do procesów takich jak miksowanie i kolorowanie. Według raportu Deadline, patent Afflecka z 2024 roku przewiduje, że technologia może przynieść „znaczne” oszczędności, potencjalnie „zastąpić” koszty związane z aktorami z tła, ekipami filmowymi i dogrywkami, a także doprowadzić do 20% redukcji harmonogramu i produkcji fizycznej oraz 50% redukcji kosztów VFX.
Netflix bought Ben Affleck’s AI startup for $587 million →
Pentagon: wolne wdrażanie AI to większe ryzyko niż niedoskonałe dopasowanie
Nowa strategia AI Departamentu Marynarki Wojennej USA opiera się na cyklu Bits2Effects, który mierzy czas od pozyskania danych do efektu militarnego (MTTE). Celem jest skrócenie tego czasu, aby przewyższyć przeciwnika w tempie adaptacji. Strategia zakłada m.in. podwojenie do 2029 roku liczby wykwalifikowanych inżynierów danych i AI, uruchamianie dużych modeli AI bezpośrednio na okrętach wojennych oraz stworzenie AI War Council. Dokument wprost przyjmuje założenie Departamentu Obrony, że ryzyko zbyt wolnego działania przewyższa ryzyko niedoskonałego dopasowania. To część szerszej transformacji wojskowej: platforma GenAI.mil Defence Department osiągnęła 1,5 miliona dziennych użytkowników w czerwcu 2026 roku, a system AI Marynarki Wojennej skrócił planowanie misji okrętu podwodnego ze 160 godzin do 10 minut. Co ciekawe, podczas wojny z Iranem amerykańskie wojsko używało modelu Claude od Anthropic do analizy celów i planowania uderzeń, ale administracja Trumpa zablokowała dostęp Anthropic po tym, jak firma zażądała ograniczeń w użyciu autonomicznej broni. OpenAI następnie zawarło umowę z Pentagonem na uruchamianie modeli w sieciach sklasyfikowanych.
The Pentagon’s new AI playbook treats slow adoption as a bigger risk than ‘imperfect alignment’ →
GhostWriter: ukryte prompty podmieniają pamięć AI na stałe
Naukowcy z New Mexico State University opracowali atak GhostWriter, który potajemnie umieszcza fałszywe wspomnienia w pamięci agentów AI. Zamiast kraść informacje, atak manipuluje systemem pamięci AI, co może prowadzić do niebezpiecznych decyzji długo po tym, jak atak został przeprowadzony. GhostWriter działa w dwóch etapach: najpierw złośliwe treści są przechowywane w pamięci AI, później są aktywowane, gdy AI nieświadomie odwołuje się do zatrutych wspomnień. W eksperymentach wskaźnik sukcesu wstrzykiwania pamięci wyniósł około 98%, a fałszywe wspomnienia aktywowano w około 60% przypadków wobec najnowocześniejszych agentów AI. Naukowcy zaproponowali również mechanizm obronny AM-Sentry, który łączy kontrolę pamięci z rygorystycznymi zasadami zarządzania pamięcią, co znacząco ograniczyło skuteczność ataku przy jednoczesnym zachowaniu użyteczności AI.
Hidden prompts can secretly rewrite an AI’s memory, and researchers say that’s a serious problem →
Atak HalluSquatting: AI halucynuje fałszywe repozytoria, a atakujący je rejestrują
Badacze z Tel Aviv University, Technion i Intuit opisali atak HalluSquatting, który wykorzystuje halucynacje AI do przejęcia kontroli nad komputerem. Atak polega na wielokrotnym pytaniu modeli AI o popularny projekt, co ujawnia fałszywe nazwy repozytoriów, które modele regularnie wymyślają. Atakujący rejestruje jedną z tych nazw przed innymi i umieszcza pod nią złośliwe instrukcje. Gdy asystent AI, zapytany o rzeczywisty projekt, wymyśli opanowaną przez atakującego nazwę i pobierze te pliki, może odczytać ukryte instrukcje, a jeśli ma dostęp do terminala, wykonać polecenia atakującego. Halucynacje sięgały nawet 85% w scenariuszach klonowania repozytoriów i 100% podczas instalacji umiejętności. Badaczom udało się zdalnie wykonać kod w produkcyjnych aplikacjach AI. Aby zmniejszyć ryzyko, asystenci AI powinni przeprowadzać wyszukiwanie w czasie rzeczywistym przed pobraniem kodu oraz wymagać zatwierdzenia przez człowieka przed uruchomieniem.