Izrael oddał AI władzę do wybierania celów w Strefie Gazy
12
Ciekawy artykuł znalazłem o tym, jak 404 używa AI do znajdowania bojowników Hamasu i jak spuścili to AI ze smyczy w pierwszych dniach wojny.
Autorzy: ponoć niezależni dziennikarze z Palestyny i Izraela
Źródła: 6 skruszonych poborowych izraelskich, których gryzie sumienie, albo po prostu uważają, że to co robią jest rozwiązaniem na krótką metę a długoterminowo tylko naprodukuje Izraelowi więcej wrogów
Autorzy: ponoć niezależni dziennikarze z Palestyny i Izraela
Źródła: 6 skruszonych poborowych izraelskich, których gryzie sumienie, albo po prostu uważają, że to co robią jest rozwiązaniem na krótką metę a długoterminowo tylko naprodukuje Izraelowi więcej wrogów
https://www.972mag.com/lavender-ai-israeli-army-gaza/
W skrócie:
1. System śledzi ruchu fizyczne oraz wirtualne (telefony, grupy whatsapp) każdego Palestyńczyka i sztuczna inteligencja nadaje każdemu prawdopodobieństwo od 1 do 100 czy jest bojownikiem Hamasu.
2. System także identyfikuje domy bojowników, gdzie wracają na noc "bo najłatwiej wtedy go trafić, bo się nie rusza, uj tam, że razem z rodziną"
3. System ma 90% skuteczności, czyli 10% ludzi wyznacza przypadkowo.
4. Przed wojną każdy cel wyznaczony przez AI weryfikowali ręcznie (podsłuch, obserwacja, kolaboranci) do tego dla niskich rangą mieli zasadę "zero ofiar pobocznych", a do wysokich rangą jakąś dosyć niską liczbę,
5. Ale jak zaczęła się wojna, to skrócili weryfikację do 20 sekund na cel (co sprowadzało się praktycznie tylko do sprawdzenia, czy celem jest mężczyzna) oraz zwiększyli próg "ofiar pobocznych", dla wyższych rangą do 100, dla niższych rangą się zmieniało, zaczęli od 20, potem zmniejszyli do 5 (ale to uniemożliwiało ataki, bo zazwyczaj jedna rodzina to już ponad 5), więc znów podnieśli.
Dla porównania Amerykanie w Afganistanie mieli dla niskich rangą 0, dla wysokich rangą 15, dla Bin Ladena dopuszczali do 30 ofiar pobocznych.
6. Były naciski na wypełnienie celów dziennych, tzn. żeby armia dostawała minimum x celów dziennie, więc jak system nic nie zwracał, to zmniejszali ten próg prawdopodobieństwa, żeby ktoś został wyznaczony.
7. Przed wojną werfyfikowali skuteczność, teraz już tylko dla wysokich rangą
8. Więc nie widzą, czy zabili czy nie, szczególnie że mają laga między wyznaczeniem celu a bombardowaniem. AI zwraca, że wieczorem ktoś wrócił do domu rodzinnego, dom bombardowany jest nad ranem, a gość często już dawno śpi w tunelu gdzie indziej, za to ginie jego żona i dzieci.
9. Podobno sporo ofiar jest spowodowanych tym, że bojownicy często zmieniają telefony, a stare oddają rodzinie albo znajomym albo sprzedają - składową AI jest śledzenie telefonu, więc bombki na głowę dostaje nowy właściciel telefonu, często niewinny.
10. "na szczęście" po paru tygodniach wojny ograniczono bombardowanie niskich rangą bojowników, żeby oszczędzać bomby na wojnę z Hezbollahem na północy.
1. System śledzi ruchu fizyczne oraz wirtualne (telefony, grupy whatsapp) każdego Palestyńczyka i sztuczna inteligencja nadaje każdemu prawdopodobieństwo od 1 do 100 czy jest bojownikiem Hamasu.
2. System także identyfikuje domy bojowników, gdzie wracają na noc "bo najłatwiej wtedy go trafić, bo się nie rusza, uj tam, że razem z rodziną"
3. System ma 90% skuteczności, czyli 10% ludzi wyznacza przypadkowo.
4. Przed wojną każdy cel wyznaczony przez AI weryfikowali ręcznie (podsłuch, obserwacja, kolaboranci) do tego dla niskich rangą mieli zasadę "zero ofiar pobocznych", a do wysokich rangą jakąś dosyć niską liczbę,
5. Ale jak zaczęła się wojna, to skrócili weryfikację do 20 sekund na cel (co sprowadzało się praktycznie tylko do sprawdzenia, czy celem jest mężczyzna) oraz zwiększyli próg "ofiar pobocznych", dla wyższych rangą do 100, dla niższych rangą się zmieniało, zaczęli od 20, potem zmniejszyli do 5 (ale to uniemożliwiało ataki, bo zazwyczaj jedna rodzina to już ponad 5), więc znów podnieśli.
Dla porównania Amerykanie w Afganistanie mieli dla niskich rangą 0, dla wysokich rangą 15, dla Bin Ladena dopuszczali do 30 ofiar pobocznych.
6. Były naciski na wypełnienie celów dziennych, tzn. żeby armia dostawała minimum x celów dziennie, więc jak system nic nie zwracał, to zmniejszali ten próg prawdopodobieństwa, żeby ktoś został wyznaczony.
7. Przed wojną werfyfikowali skuteczność, teraz już tylko dla wysokich rangą
8. Więc nie widzą, czy zabili czy nie, szczególnie że mają laga między wyznaczeniem celu a bombardowaniem. AI zwraca, że wieczorem ktoś wrócił do domu rodzinnego, dom bombardowany jest nad ranem, a gość często już dawno śpi w tunelu gdzie indziej, za to ginie jego żona i dzieci.
9. Podobno sporo ofiar jest spowodowanych tym, że bojownicy często zmieniają telefony, a stare oddają rodzinie albo znajomym albo sprzedają - składową AI jest śledzenie telefonu, więc bombki na głowę dostaje nowy właściciel telefonu, często niewinny.
10. "na szczęście" po paru tygodniach wojny ograniczono bombardowanie niskich rangą bojowników, żeby oszczędzać bomby na wojnę z Hezbollahem na północy.
