Technologia
1 r
31
*Otóż w czasach PRL, wiecie, ścisła cenzura itd., w pewnej wsi na dożynkach miał grać koncert zespół o pięknej nazwie "Przejebane". Niestety, źle by to wyglądało na plakatach, więc sprytny sołtys postanowił zmienić nazwę na "Nie Jest Dobrze". Historyjka kończy się happy endem, zespół się zgodził, koncert był udany. A teraz przechodzimy do głównego powodu, dla którego to słyszycie. Moi drodzy, są ludzie, którzy zastanawiają się nad tym, co może nam zrobić bardziej zaawansowana sztuczna inteligencja.
Nie jest dobrze.[0]
Nie jest dobrze.[0]
Jak zapewne wiecie, wszyscy światowi giganci technologiczni postawili niewyobrażalne pieniądze na rozwój AI. Mówimy o ponad 250 miliardach zielonych w zeszłym roku, π x oko 100 USD na każdego żyjącego człowieka. Tylko w 2024, a badania trwają od dekad.
Pomińmy wgłębianie się w aspekty wolności, szpiegowania itd. itp. AI jest dziś trenowana na praktycznie każdym dostępnym materiale pisanym – największe firmy ładują w największe modele wszystko co zostało napisane w historii człowieka, a głód danych jest taki, że obecnie jest boom na prototypy urządzeń [1] dedykowanych do rejestrowania ludzkiej aktywności 24/7 i ładowania tych danych firmom, o tym że ciągną co się da z każdego smartfona i każdej apki, która ma asystenta AI, to już nawet nie rozwijam.
Prawdziwy problem leży gdzie indziej. W wyścigu żeby osiągnąć AGI, czyli model który jest lepszy, bardziej inteligentny od człowieka w KAŻDEJ dziedzinie, a nie tylko obliczeniach matematycznych, analizie białek[2], etc. kompletnie pomijany jest temat, który powinien być podstawą – przetrwanie rasy ludzkiej.
Być może samodoskonalące AGI (w sumie bez znaczenia, czy będzie ‘świadome’ czy nie) nigdy nie powstanie.
Być może pierwsze 2137 modeli AGI okaże się[3] przyjazne człowiekowi i możliwe do kontrolowania, tylko ten ciąg kiedyś się skończy, obojętnie czy przypadkiem, czy celowo.
Pomińmy wgłębianie się w aspekty wolności, szpiegowania itd. itp. AI jest dziś trenowana na praktycznie każdym dostępnym materiale pisanym – największe firmy ładują w największe modele wszystko co zostało napisane w historii człowieka, a głód danych jest taki, że obecnie jest boom na prototypy urządzeń [1] dedykowanych do rejestrowania ludzkiej aktywności 24/7 i ładowania tych danych firmom, o tym że ciągną co się da z każdego smartfona i każdej apki, która ma asystenta AI, to już nawet nie rozwijam.
Prawdziwy problem leży gdzie indziej. W wyścigu żeby osiągnąć AGI, czyli model który jest lepszy, bardziej inteligentny od człowieka w KAŻDEJ dziedzinie, a nie tylko obliczeniach matematycznych, analizie białek[2], etc. kompletnie pomijany jest temat, który powinien być podstawą – przetrwanie rasy ludzkiej.
Być może samodoskonalące AGI (w sumie bez znaczenia, czy będzie ‘świadome’ czy nie) nigdy nie powstanie.
Być może pierwsze 2137 modeli AGI okaże się[3] przyjazne człowiekowi i możliwe do kontrolowania, tylko ten ciąg kiedyś się skończy, obojętnie czy przypadkiem, czy celowo.
Co może zrobić z naszym gatunkiem AGI?
I to jest najlepsze – nie wiemy. Nie ogarniamy tematu, co sztuczna inteligencja, umiejąca się samodoskonalić, startująca z poziomu, który 100 lat temu był niewyobrażalny dla przeciętnego człowieka może zrobić. Ani dlaczego.
W nagraniu przytoczony jest przykład psa – pies nie jest w stanie ogarnąć jak ktoś mógłby zrobić mu krzywdę inaczej niż przez ugryzienie, czy rzucenie czymś. Nie ogarnia, że mógłby być ofiarą eksperymentów medycznych, że mógłby być wyrzucony z samolotu, czy trafiony głowicą jądrową (o adminie nie wspominam).
Nie jesteśmy sobie w stanie wyobrazić co byt, czy nawet tylko niesamowicie skomplikowany program, setki, tysiące, miliony razy ‘mądrzejszy’ od nas, może z nami zrobić. Obojętnie czy celowo, czy po prostu nie zwracając na nas uwagi przy realizacji własnych planów. Nikt nie pyta mrówek o ich zdanie podczas budowy zapory elektrowni wodnej.
I to jest najlepsze – nie wiemy. Nie ogarniamy tematu, co sztuczna inteligencja, umiejąca się samodoskonalić, startująca z poziomu, który 100 lat temu był niewyobrażalny dla przeciętnego człowieka może zrobić. Ani dlaczego.
W nagraniu przytoczony jest przykład psa – pies nie jest w stanie ogarnąć jak ktoś mógłby zrobić mu krzywdę inaczej niż przez ugryzienie, czy rzucenie czymś. Nie ogarnia, że mógłby być ofiarą eksperymentów medycznych, że mógłby być wyrzucony z samolotu, czy trafiony głowicą jądrową (o adminie nie wspominam).
Nie jesteśmy sobie w stanie wyobrazić co byt, czy nawet tylko niesamowicie skomplikowany program, setki, tysiące, miliony razy ‘mądrzejszy’ od nas, może z nami zrobić. Obojętnie czy celowo, czy po prostu nie zwracając na nas uwagi przy realizacji własnych planów. Nikt nie pyta mrówek o ich zdanie podczas budowy zapory elektrowni wodnej.
Nasuwa się oczywiście parę pytań:
Czy uda się stworzyć AGI?
Jest to możliwe, moc obliczeniowa rośnie wykładniczo, a algorytmy doskonalą się same – bez, lub z minimalnym udziałem ludzi[4]. Może się nie uda, wtedy nie ma tematu. Ale jeżeli powstanie to nastąpi ‘osobliwość’, moment od którego człowiek przestanie nadążać za tym co i dlaczego się dzieje na świecie.
Czy da się kontrolować AGI?
Prawdziwego AGI kontrolować się nie da – albo poprzestaniemy na modelach, które skupią się na jednym problemie jak AlphaFold, który zrewolucjonizował badania w swojej dziedzinie, ale nie ma innych zdolności, pozostając po prostu narzędziem, albo hodujemy sobie ‘boga’. A bogów nie da się kontrolować, tak jak świerszcz nie może kontrolować człowieka, może być co najwyżej przyjemny do posłuchania wieczorem, albo męczący w nocy.
Czy uda się stworzyć AGI?
Jest to możliwe, moc obliczeniowa rośnie wykładniczo, a algorytmy doskonalą się same – bez, lub z minimalnym udziałem ludzi[4]. Może się nie uda, wtedy nie ma tematu. Ale jeżeli powstanie to nastąpi ‘osobliwość’, moment od którego człowiek przestanie nadążać za tym co i dlaczego się dzieje na świecie.
Czy da się kontrolować AGI?
Prawdziwego AGI kontrolować się nie da – albo poprzestaniemy na modelach, które skupią się na jednym problemie jak AlphaFold, który zrewolucjonizował badania w swojej dziedzinie, ale nie ma innych zdolności, pozostając po prostu narzędziem, albo hodujemy sobie ‘boga’. A bogów nie da się kontrolować, tak jak świerszcz nie może kontrolować człowieka, może być co najwyżej przyjemny do posłuchania wieczorem, albo męczący w nocy.
Czy będziemy mogli je wyłączyć?
No nie. Dziś pojawiają się pierwsze (pomijam masową kradzież danych i naruszenia prywatności) problemy z samobójstwami czy uzależnieniami[5], a nikt o tym nawet nie myśli, bo ‘za rogiem’ jest cel, który przyniesie ‘niewyobrażalną władzę i pieniądze’.
I to będzie trwało. Prawdzie AGI ogra nas jak Magnus Carlsen przeciętnego absolwenta starszaków. Już dziś teoretycznie ‘chat gpt’ może zdobyć kasę robiąc jakiś freelancing, pomnożyć go arbitrażem czy spekulacjami na giełdzie (pomagając sobie dezinformującymi newsami) wynająć magazyn byle gdzie, zakupić robotów od tesli[6] w opór i robić tam co chce jak długo będzie płacił rachunki i sąsiedzi go nie podpierdolą. Te możliwości będą się tylko rozwijać, nawet pomijając dyktatorów, psychopatów z kasą, wojsko prowadzące operacje w nieprzyjacielskich państwach etc.
Czy znane są scenariusze jak AGI mogłoby zniszczyć człowieka?
Mój ulubiony przykład to ‘mirror life’[7]. Przygotowany w laboratorium grzyb czy bakteria, która nie różni się od obecnie występujących niczym, poza tym, że jej struktura jest lustrzanym odbiciem. Dalej korzysta z wody, światła, podstawowych składników pokarmowych, powietrza, ale ze względu na swoją strukturę jest kompletnie niewykrywalna przez systemy immunologiczne ludzi i zwierząt i niewrażliwa na odpowiedź z ich strony.
Oczywiście zostaje też klasyczny wirus czy bakteria po przeróbkach, nowe rodzaje broni chemicznej, nanotechnologia, albo po prostu redukcja ludności dzięki prowokowaniu konfliktów zbrojnych z jednoczesnym zarządzaniem nimi tak, żeby nie eskalowały do atomowych (co samo w sobie dla AGI nie musi być problematyczne, jeżeli jest odpowiednio rozproszona i przygotowana do utrzymania sprawności).
No nie. Dziś pojawiają się pierwsze (pomijam masową kradzież danych i naruszenia prywatności) problemy z samobójstwami czy uzależnieniami[5], a nikt o tym nawet nie myśli, bo ‘za rogiem’ jest cel, który przyniesie ‘niewyobrażalną władzę i pieniądze’.
I to będzie trwało. Prawdzie AGI ogra nas jak Magnus Carlsen przeciętnego absolwenta starszaków. Już dziś teoretycznie ‘chat gpt’ może zdobyć kasę robiąc jakiś freelancing, pomnożyć go arbitrażem czy spekulacjami na giełdzie (pomagając sobie dezinformującymi newsami) wynająć magazyn byle gdzie, zakupić robotów od tesli[6] w opór i robić tam co chce jak długo będzie płacił rachunki i sąsiedzi go nie podpierdolą. Te możliwości będą się tylko rozwijać, nawet pomijając dyktatorów, psychopatów z kasą, wojsko prowadzące operacje w nieprzyjacielskich państwach etc.
Czy znane są scenariusze jak AGI mogłoby zniszczyć człowieka?
Mój ulubiony przykład to ‘mirror life’[7]. Przygotowany w laboratorium grzyb czy bakteria, która nie różni się od obecnie występujących niczym, poza tym, że jej struktura jest lustrzanym odbiciem. Dalej korzysta z wody, światła, podstawowych składników pokarmowych, powietrza, ale ze względu na swoją strukturę jest kompletnie niewykrywalna przez systemy immunologiczne ludzi i zwierząt i niewrażliwa na odpowiedź z ich strony.
Oczywiście zostaje też klasyczny wirus czy bakteria po przeróbkach, nowe rodzaje broni chemicznej, nanotechnologia, albo po prostu redukcja ludności dzięki prowokowaniu konfliktów zbrojnych z jednoczesnym zarządzaniem nimi tak, żeby nie eskalowały do atomowych (co samo w sobie dla AGI nie musi być problematyczne, jeżeli jest odpowiednio rozproszona i przygotowana do utrzymania sprawności).
Ile mamy czasu?
Prawdopodobnie – dekady. Tylko że to górny limit czasowy. Nie możemy mieć pewności, że AGI będzie uważało własne przetrwanie za priorytet. Tak działała ludzka ewolucja, bazując na ludzkiej wiedzy będzie zapewne tym ‘skażone’, ale nie ma gwarancji, że nie uzna za swój cel nie samego przetrwania, ale czegoś kompletnie innego, co dla nas wyda się absurdalne, niezrozumiałe, czy niepojęte.
Prawdopodobnie – dekady. Tylko że to górny limit czasowy. Nie możemy mieć pewności, że AGI będzie uważało własne przetrwanie za priorytet. Tak działała ludzka ewolucja, bazując na ludzkiej wiedzy będzie zapewne tym ‘skażone’, ale nie ma gwarancji, że nie uzna za swój cel nie samego przetrwania, ale czegoś kompletnie innego, co dla nas wyda się absurdalne, niezrozumiałe, czy niepojęte.
[1] https://www.limitless.ai/
[2] https://haimagazine.com/pl/ai_branza/struktury-bialek-sztuczna-inteligencja/
[3] https://www.ibm.com/think/topics/black-box-ai
[4] https://youtu.be/QGeql15rcLo
[5] https://www.familyaddictionspecialist.com/blog/the-rise-of-ai-chatbot-dependency-a-new-form-of-digital-addiction-among-young-adults
[6] https://youtu.be/cpraXaw7dyc
[7] https://youtu.be/TU3HUqUZeYw
[2] https://haimagazine.com/pl/ai_branza/struktury-bialek-sztuczna-inteligencja/
[3] https://www.ibm.com/think/topics/black-box-ai
[4] https://youtu.be/QGeql15rcLo
[5] https://www.familyaddictionspecialist.com/blog/the-rise-of-ai-chatbot-dependency-a-new-form-of-digital-addiction-among-young-adults
[6] https://youtu.be/cpraXaw7dyc
[7] https://youtu.be/TU3HUqUZeYw
Humor
2 l
3
Świat
3 l
12
