Przeglądałem newsy, gdy robotaxi Zoox zbliżyło się do spowitego dymem miejsca pożaru w San Francisco. Gwałtownie zahamowało, próbowało skręcić, a potem się zatrzymało — zdalny operator musiał je wycofać, podczas gdy strażacy pospiesznie odgradzali drogę. To trzyminutowe zamieszanie wydawało się mniej awarią, a bardziej zapowiedzią tego, co nastąpi, gdy samochody bez kierowcy spotkają się z chaosem.
Opowiem wam, co się stało, dlaczego regulatorzy są zaniepokojeni i co to wycofanie oznacza dla Zoox i szerszego wyścigu robotaxi. Czytajcie to jak szybką notatkę terenową: jasno, sceptycznie i skupiając się na istotnych sygnałach.
20 czerwca pojazd Zoox zbliżył się do aktywnego miejsca pożaru, zasłoniętego gęstym dymem.
Firma zgłosiła dobrowolne wycofanie pojazdów do U.S. National Highway Traffic Safety Administration (NHTSA) po tym, jak jej flota 105 robotaxi ujawniła lukę w oprogramowaniu: czujniki i logika percepcji, które mogły nie wykryć gęstego dymu i nie zachować się bezpiecznie w pobliżu aktywnej sytuacji awaryjnej. Raport o wycofaniu opisuje nieobsadzony pojazd wjeżdżający w zasłonięte dymem miejsce pożaru, które nie zostało odgrodzone; samochód gwałtownie zahamował i próbował skręcić, zanim się zatrzymał, a zdalny operator musiał go wycofać, aby służby ratunkowe mogły ustawić pachołki.
Zoox wdrożył tymczasową poprawkę operacyjną 7 lipca, a następnie szerszą aktualizację oprogramowania dla pojazdów objętych problemem na drogach publicznych. Rzecznik firmy powiedział reporterom, że aktualizacja „dodaje możliwość wykrywania gęstego dymu i reagowania na niego w pewnych sytuacjach” po tym, jak wewnętrzna analiza zidentyfikowała pierwotną przyczynę.
Ta awaria wydawała się mniej wadliwym czujnikiem, a bardziej latarnią morską z zgaszonym światłem: system wiedział, dokąd jechać, ale nie potrafił odczytać bezpośredniego zagrożenia, dopóki nie interweniował człowiek.
Dlaczego Zoox wycofał swoje robotaxi?
Ponieważ gęsty dym stworzył martwy punkt detekcji, co zwiększyło ryzyko wypadku i mogło zakłócić pracę służb ratunkowych. Wycofanie to standardowy krok bezpieczeństwa zgodnie z zasadami NHTSA; poprawka dotyczyła oprogramowania, została wprowadzona w całej flocie i połączona z zaostrzeniem zasad operacyjnych, aby odsuwać pojazdy od aktywnych miejsc pożarów do czasu wdrożenia aktualizacji.
Regulatorzy zauważyli schemat, zanim alert Zoox stał się publiczny.
Urzędnicy federalni już wcześniej wskazywali na problemy pojazdów autonomicznych w interakcji ze scenami awaryjnymi i zmianami w kontroli ruchu.
8 lipca administrator NHTSA, Jonathan Morrison, wysłał publiczny list, wzywając deweloperów AV do rozwiązania problemu, nazywając niemożność wykrywania i odpowiedniego reagowania na sceny awaryjne niedostatkiem funkcjonalnym. Agencja śledzi serię wycofań i incydentów od kilku deweloperów — wcześniejsze wycofania Waymo dotyczące zalanych dróg i zatrzymanych autobusów szkolnych są najnowszymi przykładami — które pokazują, że nie jest to izolowany błąd inżynieryjny, ale powtarzające się ryzyko operacyjne.
Dla ciebie i dla mnie rodzi to proste pytanie: jeśli boty mogą być zdezorientowane dymem, czy będą również źle odczytywać pachołki, tymczasowe znaki lub nieprzewidywalną aktywność ludzką w miejscach wypadków? Regulatorzy traktują to jako rutynowe wyzwania bezpieczeństwa, a nie rzadkie, eksperymentalne przypadki graniczne, i proszą firmy o natychmiastowe działanie.
Czy robotaxi mogą bezpiecznie współdziałać ze scenami awaryjnymi?
Mogą, z zastrzeżeniami. Stos technologiczny — czujniki, modele percepcji, zasady operacyjne i wsparcie zdalnych operatorów — może obsługiwać wiele scenariuszy, ale gęsty dym, słabe oświetlenie i szybko zmieniające się zachowanie człowieka pozostają testami obciążeniowymi. Firmy łatają oprogramowanie i zmieniają ograniczenia operacyjne, ale te poprawki zmieniają doświadczenie jazdy (wolniejsze trasy, więcej interwencji ludzkich) oraz ekonomię wdrożeń na dużą skalę.
Zoox przygotowywał się już do ekspansji poza darmowe przejazdy w Las Vegas i San Francisco.
Firma, przejęta przez Amazon za około 1,3 miliarda USD (1,2 miliarda EUR) w 2020 roku, wykorzystywała publiczne testy i darmowe przejazdy do testowania swoich pojazdów w Las Vegas, San Francisco, Austin i Miami. Niedawno zaprezentowała zaktualizowany projekt robotaxi przeznaczony do masowej produkcji — kabinę bez kierownicy, zbudowaną wokół pasażerów, a nie kierowców — i wciąż czeka na zatwierdzenie NHTSA, aby wdrożyć ten model komercyjnie.
Ta strategia oznacza, że Zoox musi jednocześnie rozwiązać dwa praktyczne problemy: czy jego oprogramowanie może skalować się do skomplikowanych, rzeczywistych sytuacji awaryjnych, i czy może utrzymać zaufanie publiczne podczas wprowadzania nowych pojazdów? Niedawne wycofanie ujawnia napięcie: agresywna ekspansja zmusza zespoły do szybkiego naprawiania oprogramowania, ale każda aktualizacja, która zawodzi w terenie, podważa zaufanie i prowokuje ściślejszy nadzór.
Obecnie Zoox polega na zdalnych operatorach i ogólnoflotowych aktualizacjach bezprzewodowych, aby korygować zachowanie. To są ważne narzędzia bezpieczeństwa, ale są też przypomnieniem, że w niektórych scenariuszach samochód zachowuje się jak gracz w bilard z zawiązanymi oczami — zdolny do wielkiej precyzji, dopóki widoczność nie zniknie i nie będzie musiała wkroczyć ludzka ocena.
Usłyszycie w tej historii nazwiska: Amazon, Waymo, NHTSA i główny administrator Jonathan Morrison. Usłyszycie również liczby — 105 pojazdów Zoox objętych tym wycofaniem oraz poprzednie wycofania dotyczące gwałtownego hamowania i problemów z pasem ruchu — i powinniście traktować je jako sygnały, a nie szum. Jeśli zależy wam na tym, dokąd zmierzają robotaxi, obserwujcie, jak firmy naprawiają błędy percepcji, jak regulatorzy ustalają oczekiwania i jak pasażerowie reagują na bardziej konserwatywne zasady operacyjne.
Jeśli robotaxi to przyszłość, niech lepiej przygotują się na znacznie więcej dymu — a jeśli jedno wycofanie może dziś wstrząsnąć zaufaniem publicznym, to co kaskada takich incydentów zrobi z rynkiem i standardami bezpieczeństwa jutro?
Wesprzyj naszą pracę ❤️
Jeśli spodobał Ci się ten artykuł, rozważ pozostawienie napiwku, aby pomóc nam dalej publikować wartościowe treści.
