Anthropic, firma zajmująca się sztuczną inteligencją, która stoi za głośno dyskutowanym czatem Claude, stawia na promowanie etycznej sztucznej inteligencji. Niedawno wyróżniła się jako jedyna duża firma AI wspierająca proponowaną ustawę o bezpieczeństwie AI w Kalifornii, sprzeciwiając się używaniu swojej technologii w nadzorze — ruch, który przyciągnął uwagę administracji Trumpa.
Według raportów agencje ścigania czują się ograniczone przez politykę użytkowania Anthropic, która zabrania użycia jej narzędzi AI do różnych zastosowań, w tym „Wymiaru Sprawiedliwości, Cenzury, Nadzoru lub Zastrzeżonych Celów Egzekwowania Prawa”. Oznacza to brak śledzenia osób przez AI bez ich zgody oraz brak wsparcia w cenzurze prowadzonej przez rząd.
Te ograniczenia wzbudziły frustrację wśród agencji federalnych, takich jak FBI i Secret Service, według Semafor. Mimo że udostępnia tym agencjom Claude za zaledwie 1 dolara, twarde stanowisko Anthropic stwarza napięcia z obecną administracją. W przeciwieństwie do swoich konkurentów, polityki Anthropic są bardziej rygorystyczne, ograniczając potencjalne luki w aplikacjach nadzorczych.
Źródło zaznajomione z sytuacją ujawniło, że podczas gdy Claude jest wykorzystywany do działań związanych z bezpieczeństwem krajowym, jego polityka zdecydowanie ogranicza nadzór krajowy. Anthropic twierdzi jednak, że opracowało ClaudeGov specjalnie dla społeczności wywiadowczej, uzyskując „Wysoką” autoryzację od Federal Risk and Authorization Management Program (FedRAMP), co pozwala na jego użycie w wrażliwych zadaniach rządowych.
Pewien urzędnik wyraził obawy, że polityka Anthropic stawia moralną ocenę, jak działa egzekwowanie prawa, stawiając pytania o równowagę między etyką a legalnością w świecie, gdzie nadzór krajowy jest powszechny. Odrzucając udział w niektórych praktykach, Anthropic chroni swoje interesy, jednocześnie starając się utrzymać standardy etyczne.
Principialne podejście firmy jest częścią szerszej strategii przedstawiającej ją jako odpowiedzialnego gracza w dziedzinie AI. Wcześniej Anthropic poparł ustawę o bezpieczeństwie AI, mającą na celu ustanowienie surowszych wymagań dotyczących bezpieczeństwa modeli AI, co jest wyjątkowe wśród dużych firm. Ustawa czeka na zatwierdzenie przez gubernatora Newsoma, który wcześniej zawetował podobne przepisy.
Jednak to principialne stanowisko staje się przedmiotem krytyki z powodu niedawnej ugody Anthropic dotyczącej rzekomych naruszeń praw autorskich związanych z milionami książek użytymi w treningu modelu AI. Ugoda w wysokości 1,5 miliarda dolarów (około 1,39 miliarda euro) przewiduje odszkodowanie dla posiadaczy praw autorskich, ale wycena firmy wzrosła prawie do 200 miliardów dolarów, z niewielkim wpływem tej kary.
W krajobrazie nasyconym innowacjami AI, pojawia się pytanie: co przyniesie przyszłość dla etycznych firm AI takich jak Anthropic? Poruszając się po regulacyjnych ramach i dylematach etycznych, ciągły dialog na temat nadzoru w porównaniu z bezpieczeństwem pozostanie kluczowy.
Co oznacza postawa Anthropic w sprawie nadzoru dla przyszłości technologii AI? Anthropic ma na celu ustalenie wysokiego standardu etycznego, jednocześnie przesuwając granice zastosowań AI, co tworzy unikalną pozycję na rynku.
Jak agencje ścigania reagują na politykę użytkowania Anthropic? Frustracja jest powszechna wśród tych agencji, które postrzegają ograniczenia jako ograniczające ich możliwości, mimo że firma jest gotowa dostarczać narzędzia do innych celów niezwiązanych z nadzorem.
Dlaczego polityka Anthropic różni się od konkurentów, takich jak OpenAI? Szersze ograniczenia Anthropic odzwierciedlają zobowiązanie do etycznych rozważań dotyczących wdrażania AI, tworząc wyraźną tożsamość w zatłoczonej przestrzeni AI.
Jak Claude jest wykorzystywany w bezpieczeństwie narodowym? Agencje wykorzystują Claude do celów związanych z bezpieczeństwem cybernetycznym, podczas gdy jego zastosowanie w krajowym nadzorze pozostaje zdecydowanie zabronione z powodu polityki firmy.
Podsumowując, zaangażowanie Anthropic w rozwój etycznej AI wyróżnia ją jako odpowiedzialną alternatywę w branży borykającej się z kompleksowymi wyzwaniami. Aby uzyskać więcej informacji na temat ewoluującego krajobrazu AI i technologii, odwiedź Moyens I/O.
Wesprzyj naszą pracę ❤️
Jeśli spodobał Ci się ten artykuł, rozważ pozostawienie napiwku, aby pomóc nam dalej publikować wartościowe treści.
