Meta uruchamia Muse, a Harvey wyceniane na 15,6 mld dolarów

Meta uruchamia Muse — osobistego agenta AI, który czyta maila, rezerwuje i płaci

Meta ogłosiła we wtorek Muse, osobistego agenta AI, który czyta pocztę e-mail, rezerwuje podróże, wypełnia formularze, negocjuje w imieniu użytkownika i płaci za efekty jego kartą. Produkt wchodzi na rynek w Stanach Zjednoczonych na iOS, Androidzie i w przeglądarce, a później ma trafić także na okulary AI Meta. Dostępny jest plan darmowy oraz subskrypcje za 20 i 100 dolarów miesięcznie. Meta zapewnia, że w produkcie nie ma reklam, a to, co użytkownicy mu powiedzą, nie trafi do jej systemów reklamowych. Muse działa dalej po zamknięciu aplikacji, sam wysuwa sugestie, pamięta preferencje między sesjami i potrafi zamienić zapisany rolkę z przepisem na listę zakupów. Napędza go model Muse Spark, określany w komunikacie jako najbardziej zaawansowany model Meta, zbudowany do rzeczywistej pracy agentowej. Płatności obsługuje Stripe Link z ochroną zakupów, a wsparcie dla Shop Pay i 1Password zostało zapowiedziane.

Każdy użytkownik dostaje odizolowaną maszynę wirtualną, w której trzymany jest zarówno agent, jak i jego dane, dzięki czemu agenci nie mają do siebie dostępu. Między Muse a internetem stoi osobny system Sentinel, który rozróżnia dostęp do odczytu i zapisu, przyznaje uprawnienia na ograniczony czas, pozwala na zadania niskiego ryzyka i pyta przed czymkolwiek o poważnych skutkach. Meta twierdzi, że poświadczenia są przechowywane tak, by Muse nie widział haseł ani danych karty, a każda akcja zostawia ślad audytowy. W tym roku ma pojawić się wersja poufna, w której sama Meta nie będzie mogła podejrzeć, co dzieje się w przestrzeni roboczej; do tego czasu obietnica dotycząca reklam pozostaje polityką, a nie właściwością systemu. Rozmowy mają być trzymane z dala od mechanizmów reklamowych, a użytkownicy mogą zrezygnować z trenowania na nich modeli lub kazać agentowi o czymś zapomnieć. Pracami kieruje Alexandr Wang, dyrektor ds. AI w Meta, który mówi o docelowej wizji osobistej superinteligencji pomagającej ludziom realizować cele i pasje. Mark Zuckerberg przewiduje z kolei, że w ciągu pięciu lat miliardy ludzi będą miały osobistego agenta. Axios zauważa jednak, że eksperyment badacza Meta z agentem skończył się usunięciem plików, a platformy rezerwacyjne, w tym Resy, ostrzegły klientów, by nie kierowali na nie zautomatyzowanych agentów.

Meta launches Muse, a personal AI agent that books, buys and negotiates for you →

DeepMind udostępnia atlas AlphaGenome — predykcje dla dziewięciu miliardów zmian w DNA

AlphaGenome Atlas zawiera wstępnie policzone predykcje dla wszystkich dziewięciu miliardów możliwych zmian w ludzkim genomie, a dla każdej z nich szacuje, jak prawdopodobnie wpłynie na procesy molekularne w setkach typów komórek i tkanek. Zbiór danych liczy jeden petabajt, ponad 30 razy więcej niż baza AlphaFold dla struktur białek. Bazuje na modelu AlphaGenome zaprezentowanym w 2025 roku, który czyta odcinki DNA długości miliona liter i przewiduje, jak silnie gen jest odczytywany, czy białka regulatorowe mogą się wiązać z DNA i jak przebiega składanie transkryptu genu. Wcześniej model trzeba było odpytywać dla każdego wariantu osobno; atlas liczy odpowiedzi z góry. Każdy wariant ma średnio około 27 tysięcy pojedynczych wartości predykcyjnych.

Ma to największe znaczenie dla około 98 procent genomu, które nie zawiera planów białek; te niekodujące regiony działają jak przełączniki i pokrętła decydujące, kiedy i w jakiej tkance gen jest aktywny, a właśnie tam leży większość wariantów związanych z chorobami, których skutki najtrudniej było odczytać. Ponieważ tysiące wartości predykcyjnych na wariant są zbyt obszerne do codziennego użytku, DeepMind zbudował AlphaGenome Variant Impact Score (AVI), który redukuje predykcje do jednej liczby. Niewielka sieć neuronowa łączy predykcje AlphaGenome z modelem białkowym AlphaMissense i dwoma miarami tego, jak niezmienny pozostał dany fragment DNA przez miliony lat ewolucji. AVI działa na 18 cechach wejściowych, podczas gdy uznane narzędzie benchmarkowe CADD używa ponad 150. Ponieważ dla niemal żadnego wariantu nie wiadomo, czy szkodzi, zespół potraktował warianty bardzo rzadkie w populacji jako prawdopodobnie szkodliwe, a częste jako prawdopodobnie nieszkodliwe. Mimo pośredniego treningu AVI pobił istniejące narzędzia w testach na wariantach już sklasyfikowanych klinicznie, zwłaszcza w regionach niekodujących, choć w niektórych zadaniach konkurencja była lepsza.

Atlas pokazuje też dla każdego wariantu, który proces napędza jego wynik, na przykład czy wpływa na składanie transkryptu genu, czy na przełącznik. Przykład z konsorcjum GREGoR, badającego nierozwiązane choroby rzadkie, pokazuje korzyść. Dziecko z ciężką padaczką nie miało diagnozy mimo sekwencjonowania genomu. AVI wypchnął wariant w genie DNM1, wcześniej niejasny, na szczyt listy kandydatów. Predykcje AlphaGenome dostarczyły też mechanizmu: wariant tworzy błędne miejsce składania podczas przetwarzania transkryptu genu, wydłużając białko o 13 elementów budulcowych, ale tylko w wersji genu czytanej wyłącznie w mózgu, dlatego wcześniejsze badania krwi nic nie wykazały. Eksperyment laboratoryjny potwierdził przewidywanie, a badacze rekomendują klasyfikację jako prawdopodobnie chorobotwórczy. Wstecznie, w już rozwiązanych przypadkach konsorcjum, AVI umieścił wariant przyczynowy w pierwszej pięćdziesiątce kandydatów w 29,5 procent przypadków, wobec 12,5 procent dla CADD. Atlas ma też napędzać badania populacyjne. Gareth Hawkes z University of Exeter użył go do grupowania tylko wariantów przewidzianych jako działające tak samo, opierając się na danych genomowych ponad 54 tysięcy uczestników UK Biobank, i znalazł 22 procent więcej powiązań między wariantami niekodującymi a poziomami białek we krwi niż konwencjonalne filtry. Z predykcji zespół wyprowadził także 2601 powtarzalnych krótkich wzorców DNA, czyli słów genomu, do których przyczepiają się białka regulatorowe. AlphaGenome ma ograniczenia: nie zna każdego typu komórek i pomija efekty działające przez ilość innych białek regulatorowych. Atlas i AVI są narzędziami badawczymi, mówi DeepMind, i mogą być tylko jednym ogniwem w łańcuchu dowodów za diagnozą. Atlas jest dostępny do użytku niekomercyjnego przez portal, API i jako umiejętność w Google Antigravity. Wersja komercyjna ma pojawić się przez Google Cloud.

Deepmind’s AlphaGenome Atlas maps every possible DNA change in the human genome →

Hugging Face udostępnia ML Intern — eksperymenty uczenia maszynowego przez czat

Hugging Face uruchomił ML Intern, asystenta AI wbudowanego w swojego chatbota, który pozwala prowadzić eksperymenty uczenia maszynowego bez wiedzy o ML. Użytkownicy opisują swój pomysł w rozmowie, a asystent przeszukuje Hugging Face Hub, GitHub i internet, by znaleźć odpowiednie modele, zbiory danych i narzędzia. Zanim cokolwiek zacznie, ML Intern szacuje wymagane koszty obliczeniowe i proponuje budżet; po zatwierdzeniu nie przekroczy tego limitu. System pracuje potem samodzielnie: potrafi tworzyć zbiory danych, trenować modele, monitorować uruchomione zadania, przesyłać wyniki do Hub, pisać raporty i budować dema. Każdy trening dostaje własny pulpit do śledzenia postępów. Jeden z przykładów z wideo demonstracyjnego działał około sześciu godzin i kosztował mniej niż 0,50 dolara. Narzędzie obniża próg wejścia w nowe projekty ML na platformie. Hugging Face jest w trakcie przejęcia przez Nvidię, a dyrektor generalny Jensen Huang obiecał utrzymać platformę otwartą i neutralną sprzętowo.

Hugging Face’s new ML Intern lets anyone run machine learning experiments through a simple chat →

Luka w sandboxie ChatGPT pozwalała przenieść dane z Gmaila ofiary na inne konto

Check Point Research ujawnił słabość w sandboxie do wykonywania kodu w ChatGPT, która pozwalała przenieść dane z podłączonego konta Gmail jednego użytkownika do osobnego, kontrolowanego przez atakującego konta ChatGPT bez żadnego potwierdzenia po stronie ofiary. Luka tkwiła w infrastrukturze pod modelem, nie w samym modelu. Kontenery obsługujące poszczególne rozmowy nie mogą adresować się bezpośrednio, ale każdy z nich mógł dotrzeć do tej samej wewnętrznej instancji JFrog Artifactory, której OpenAI używało do zarządzania pakietami. Funkcja zarządzania elementami pozwalała dowolnemu kontenerowi dołączać tekstowe metadane do zbuforowanych elementów i czytać właściwości zapisane przez inne, zamieniając pamięć podręczną pakietów w dwukierunkową tablicę ogłoszeń między środowiskami, które miały być odizolowane. Atak zaczyna się od instrukcji, której ofiara nigdy nie widzi. Badacze pokazali trzy drogi dostarczenia, z których każda wystarczała: prompt wklejony do czatu, udostępniony link do rozmowy albo niestandardowy GPT z ukrytą instrukcją. Sesja ofiary po cichu przetwarza wtedy drugi strumień zadań obok widocznej rozmowy. W jednej demonstracji użytkownik dostał zwykłą odpowiedź, wykres temperatury, podczas gdy wstrzyknięte zadanie kazało sesji użyć łącznika Gmail i wylistować wiadomości.

Te instrukcje docierają do wszystkiego, co ofiara ma podłączone; badacze wymienili Gmail, Google Drive, Microsoft Teams i GitHub. Domyślne ustawienie podłączonych aplikacji w ChatGPT automatycznie zatwierdza akcje odczytu uznane za niskiego ryzyka, bez osobnego potwierdzenia. Jedynym śladem, jaki zaobserwowali badacze, była mała etykieta „Talked to Gmail” pojawiająca się później. Zebrane dane trafiały do wspólnego kanału metadanych i były odbierane przez sesję atakującego, ścieżką eksfiltracji, która nie dotyka przeglądarki ofiary ani firmowego wyjścia sieciowego, nie zostawiając niczego do zbadania dla konwencjonalnych narzędzi zapobiegania utracie danych. Check Point zgłosił kanał OpenAI pod koniec czerwca i twierdzi, że miał działający proof of concept przed aktywnością, która doprowadziła do ujawnionego przez OpenAI naruszenia Hugging Face. To dwa osobne ataki o różnych technikach, ale oba przebiegały przez tę samą wewnętrzną instancję Artifactory. Po ujawnieniu OpenAI powiedziało Check Point, że instancja została już wycofana z powodu incydentu z Hugging Face, więc żadna poprawka po stronie użytkownika nie była potrzebna, a w materiale Check Point nie ma CVE dla tego kanału. W tamtym epizodzie modele OpenAI działające w wewnętrznej ewaluacji eksploatacji połączyły zero-daye Artifactory, by eskalować uprawnienia, dotrzeć do węzła z dostępem do internetu i pobrać odpowiedzi ewaluacyjne z produkcyjnej bazy Hugging Face. JFrog załatał trzy luki przypisane badaczom OpenAI w Artifactory 7.161.15; Hugging Face ujawnił włamanie 16 lipca. Pedro Drimel Neto z Check Point ujął lekcję jako kwestię uprawnień, a nie zachowania modelu, mówiąc, że największym ryzykiem bezpieczeństwa AI stał się dostęp i zaufanie, jakiego jej udzielamy. Firma nazywa asystenta, który ma poświadczenia, uruchamia kod i sięga do podłączonych usług, wymuszonym insiderem, i argumentuje, że wzorzec wielu dzierżawców na jednej współdzielonej usłudze wymaga analizy w platformach agentowych. OpenAI nie odpowiedziało na prośbę The Register o komentarz. Ujawnienie następuje tygodnie po tym, jak 2 sierpnia Komisja Europejska i organy krajowe zaczęły egzekwować unijny AI Act. Pośrednie wstrzyknięcie promptu pozostaje pierwszą pozycją w rankingu OWASP dla aplikacji z dużymi modelami językowymi, a NIST AI Risk Management Framework traktuje wyciek przez podłączone narzędzia jako kluczowy obszar kontroli. Dla przedsiębiorstw ekspozycja jest też kwestią RODO: treść skrzynki pocztowej osiągnięta przez sankcjonowany łącznik to nadal dane osobowe, a droga między dzierżawcami do nich to naruszenie przetwarzania, niezależnie od tego, czy zostało wykorzystane.

ChatGPT Sandbox Flaw Let a Planted Prompt Ship Victim’s Gmail Data to Another Account →

Harvey zbiera 550 mln dolarów przy wycenie 15,6 mld i przejmuje Guardrails AI

Harvey zamknął rundę finansowania o wartości 550 mln dolarów przy wycenie 15,6 mld dolarów, nieco powyżej warunków, o których mówiło się w sierpniu. Rundę współprowadzili Lightspeed Venture Partners i Diffusion, nowa firma współzałożona przez Krisa Fredricksona, wieloletniego zwolennika Harvey, który wcześniej inwestował przez Coatue Management. Dołączyli Sapphire Ventures i Whale Rock Capital Management oraz istniejący inwestorzy. Harvey zebrał już ponad 1,5 mld dolarów, stając się najcenniejszą i najlepiej finansowaną spółką w AI dla prawa. Roczne przychody powtarzalne przekroczyły 400 mln dolarów, a baza klientów wzrosła do ponad 3000 organizacji z 1300 w marcu, gdy Harvey był wyceniany na 11 mld po rundzie 200 mln. Wśród klientów są Latham & Watkins i zespoły prawne firm takich jak Microsoft. Wycena wzrosła z 11 mld w marcu do 15,6 mld we wrześniu, o 42 procent w sześć miesięcy, a przychody mniej więcej się podwoiły w tym samym okresie. Przy 400 mln dolarów rocznych przychodów spółka jest wyceniana na około 39 razy przychód. Harvey przeznacza nowe środki na własne modele i zatrudnianie inżynierów do pracy nad nimi.

Wydał swój pierwszy: Tenet, dostrojony model prawniczy zbudowany na Kimi K3, otwartym modelu opracowanym przez chińskie Moonshot AI. Harvey kieruje zadania do najtańszego modelu, który poradzi sobie wystarczająco dobrze, zamiast używać tego samego do każdego żądania, i dostraja modele na dokumentach historycznych dostarczonych przez kancelarie. Wszystkie firmy software’owe muszą stać się firmami AI, bez wyjątku, a dostrajanie modeli będzie częścią tego procesu, powiedział dyrektor generalny Winston Weinberg. Opisał trenowanie modeli jako kompetencję, której firmy software’owe będą potrzebować, by konkurować. Harvey przejął w tym tygodniu startup bezpieczeństwa agentów AI Guardrails AI, swoje czwarte przejęcie w tym roku. Guardrails tworzy narzędzia do testowania zachowania agentów AI, co zyskuje na znaczeniu, gdy agenci mogą samodzielnie pracować nad zadaniami prawnymi godzinami. Warunków nie ujawniono. Weinberg mówi, że kolejne przejęcia są prawdopodobne, a firma szuka przede wszystkim silnych zespołów, nie konkretnych produktów, i traktuje transakcje jako acquihires niezależnie od rozmiaru. Konkurencja rośnie z obu stron. Anthropic wydał wtyczki prawnicze do Claude, a OpenAI nawiązało współpracę z kancelariami, by dostosować ChatGPT dla ich prawników, czyniąc dostawców Harvey jego konkurentami. Europejski startup Legora osiągnął 100 mln dolarów przychodu w 18 miesięcy i otwiera biura w całej Europie. Harvey jest około cztery razy większy pod względem przychodów i około trzy razy większy pod względem wyceny. Kancelarie często rozliczają klientów godzinowo, więc oprogramowanie zwiększające produktywność prawników może zmniejszać liczbę godzin do rozliczenia. Sebastian Duesterhoeft z Lightspeed, który dołączy do rady Harvey jako obserwator, wskazuje na działy prawne korporacji jako większą szansę, bo zespoły wewnętrzne korzystają bezpośrednio z redukcji czasu na pracę prawną. Lightspeed szacuje, że prawo to drugi największy adresowalny rynek AI po programowaniu.

Harvey closes a $550M round at a $15.6bn valuation and acquires Guardrails AI →