OpenAI Astra z krytycznym poziomem zagrożenia cyberbezpieczeństwa

OpenAI uznaje model Astra za krytyczne zagrożenie cyberbezpieczeństwa

OpenAI potwierdziło istnienie modelu Astra, nazywając go swoim kolejnym głównym modelem. We wrześniu firma ogłosiła, że Astra osiągnęła krytyczny poziom zagrożenia cybernetycznego i będzie dostępna wkrótce. Ze względów bezpieczeństwa OpenAI planuje ograniczyć najbardziej zaawansowane możliwości cyberbezpieczeństwa modelu do zamkniętej grupy wybranych partnerów testujących. To pierwszy model OpenAI sklasyfikowany jako krytyczne ryzyko, podczas gdy wcześniejszy GPT-5.6-Sol był uznawany za wysokie ryzyko.

Astra rozwiązała dziesięć poważnych otwartych problemów matematycznych, z których część pozostawała nierozwiązana przez dekady. Firma zaostrzyła sandboxy zawierające model i monitoruje jego Chain of Thought, aby przerywać działania wysokiego ryzyka. OpenAI podkreśla, że zabezpieczenia mają uniemożliwić złośliwym podmiotom wykorzystanie modelu oraz powstrzymać go przed nieautoryzowanymi działaniami. Data premiery nie została ogłoszona, a dostęp do najbardziej zaawansowanych funkcji cyberbezpieczeństwa będzie stopniowo rozszerzany w celach obronnych.

OpenAI Astra: All about the quantum math-solving model with ‘critical’ hacking skills →

Anthropic wypuszcza Claude Fable 5.1 z niższymi kosztami i lepszym kodowaniem

Anthropic uruchomił modele Claude Fable 5.1 i Mythos 5.1, które są najbardziej zaawansowanymi modelami firmy. Oba modele dzielą tę samą bazę, ale różnią się zabezpieczeniami. Fable 5.1 jest powszechnie dostępny, a Mythos 5.1 ograniczono do programów specjalnych dla cyberbezpieczeństwa i nauk przyrodniczych. Koszty typowych obciążeń spadły o około 25 procent, a w przypadku zadań agentowych z długimi seriami wywołań narzędzi oszczędności sięgają 45 procent.

Fable 5.1 osiąga wyniki ponad dwukrotnie lepsze od poprzednika w testach agentowego kodowania i badań naukowych. Model wprowadza system poziomów wysiłku kontrolujący zużycie mocy obliczeniowej, a filtry bezpieczeństwa generują o 60 procent mniej fałszywych alarmów w cyberbezpieczeństwie i o 85 procent mniej w biologii. Fable 5.1 po raz pierwszy potrafi identyfikować podatności oprogramowania, choć nie tworzy exploitów. Oba modele są pierwszymi z serii Claude z wbudowanymi znakami wodnymi, a Anthropic udostępnił API do ich weryfikacji dla regulatorów i mediów.

Anthropic’s Claude Fable 5.1 promises better coding and research at up to 45 percent less →

Anthropic otwiera API do weryfikacji znaków wodnych Claude dla regulatorów i mediów

Anthropic uruchamia API do weryfikacji znaków wodnych, które pozwala zatwierdzonym organizacjom sprawdzać, czy tekst zawiera cyfrowy znak wodny z Claude. Od 2 sierpnia 2025 roku unijny akt o sztucznej inteligencji wymaga, aby nowe modele Claude osadzały niewidoczne znaki wodne w generowanym tekście. Dostęp mogą uzyskać organy regulacyjne, organy ścigania, media, fact-checkerzy, niezależni badacze, instytucje edukacyjne oraz organizacje społeczeństwa obywatelskiego z UE.

System opiera się na metodzie SynthID od Google, modyfikując losowość wyboru słów, aby stworzyć statystycznie wykrywalny wzorzec. Anthropic twierdzi, że znak wodny nie zawiera danych użytkownika i nie wpływa na jakość ani treść. Krytycy argumentują jednak, że wybór synonimów na podstawie klucza znaku wodnego zamiast znaczenia może obniżać jakość tekstu. Eksperci zwracają uwagę na ryzyko związane z przejrzystością, szczególnie w kontraktach zakazujących użycia AI lub podczas negocjacji opłat.

Anthropic opens Claude AI text detection to regulators, media, fact-checkers, and others →

AI z Imperial College wykrywa niewidoczne dla kardiologów oznaki niewydolności serca z EKG

Naukowcy z Imperial College London wytrenowali system AI, który czyta EKG w mniej niż dwie sekundy i identyfikuje oznaki niewydolności serca oraz choroby zastawkowej, których klinicyści nie potrafią wykryć z tego samego zapisu. Wyniki przedstawiono na kongresie Europejskiego Towarzystwa Kardiologicznego w Monachium. Badanie objęło 67 tysięcy pacjentów w Stanach Zjednoczonych, a narzędzie wykryło do 81 procent przypadków niewydolności serca i do 90 procent przypadków choroby zastawkowej.

System ma służyć do triażu, a nie zastępować klinicystów. Jeśli oprogramowanie przeanalizuje już wykonywane EKG i wskaże pacjentów z większym prawdopodobieństwem problemów strukturalnych serca, mogą oni zostać priorytetowo skierowani na badanie ultrasonograficzne. Model trenowano na 1,6 miliona EKG z Brazylii powiązanych z dokumentacją pacjentów oraz kilku milionach dodatkowych zapisów z USA. Prace są komercjalizowane przez spinout Cardiovolt.ai, a zespół planuje przeniesienie technologii do przenośnych urządzeń EKG, co wymagałoby jednak oddzielnego procesu walidacji klinicznej i zatwierdzenia regulacyjnego.

An AI reads an ECG in two seconds and finds what cardiologists cannot →

USA chce, aby G20 nie tworzyło nowych instytucji do zarządzania AI

Stany Zjednoczone poproszą G20 o niebudowanie nowych instytucji zarządzających sztuczną inteligencją. Biały Dom przedstawił to stanowisko przed dwudniowym spotkaniem w Karolinie Północnej, naciskając na kraje członkowskie, aby nie powoływały organów, które mogłyby pisać jakiekolwiek zasady. Gospodarzami są sekretarz handlu Howard Lutnick i doradca Białego Domu ds. technologii Michael Kratsios. To pierwsze z serii spotkań prowadzących do szczytu przywódców G20 w Miami w grudniu.

G20 nie ma władzy przymuszania, ale uzgodniony język staje się punktem odniesienia dla rządów krajowych. Europa przybywa z już zbudowanym aktem o AI, który jest w mocy, oraz egzekwowanym aktem o usługach cyfrowych. Przewodniczący Rady Stabilności Finansowej ostrzegł ministrów finansów G20, że ryzyko cybernetyczne napędzane przez AI jest najbardziej bezpośrednim zagrożeniem dla stabilności finansowej. Konsensus G20 przeciwko międzynarodowemu nadzorowi sprawiłby, że egzekwowanie przepisów w Europie wyglądałoby na odstępstwo, a nie wzorzec. Pytanie brzmi, czy jakikolwiek członek zechce wydać kapitał dyplomatyczny na zdanie, którego USA nie zaakceptują.

The US will ask the G20 not to build anything to govern AI →