Spis treści:
- AI zmieniła technologię i rynek gier. Ceną są miejsca pracy
- "Czas ocenić architekturę zaufania". Satya Nadella ostrzega przed AI
- Człowiek musi trzymać rękę na pulsie. AI niczym zagrożenie wewnętrzne
- Sztuczna inteligencja wymaga hamulca ręcznego?
AI zmieniła technologię i rynek gier. Ceną są miejsca pracy
Generatywna sztuczna inteligencja odciska piętno na tak wielu płaszczyznach, że aż trudno je wszystkie zliczyć. W szeroko pojętym sektorze technologicznym AI jest w stanie usprawnić wiele procesów, a jednocześnie ekspansja tego zjawiska doprowadziła do drastycznych wzrost cen komponentów komputerowych oraz konsol.
W branży gier wideo AI tworzy tyle samo korzyści, co i wad. Deweloperzy coraz chętniej sięgają po tego typu narzędzia, co rzadko kiedy podoba się społeczności graczy. Niestety AI doprowadziło już do licznych redukcji etatów, które sukcesywnie z każdym miesiącem postępują. Swoimi przemyśleniami odnośnie AI podzielił się w szerokim wpisie Satya Nadella.
"Czas ocenić architekturę zaufania". Satya Nadella ostrzega przed AI
Prezes Microsoftu bez ogródek przyznał, że nadszedł czas, by "zatrzymać się i ocenić architekturę zaufania" odnośnie AI. "Nie możemy traktować Superinteligencji jako zbioru zagnieżdżonych czarnych skrzynek i po prostu akceptować lub odrzucać jej zaleceń, odpowiedzi i działań" - dodał, wprowadzając nomenklaturę nadaną przez administrację Trumpa.

Człowiek musi trzymać rękę na pulsie. AI niczym zagrożenie wewnętrzne
Nadella przyznał, że konieczne jest budowanie systemów z kontrolowanym systemem działania zdolnym do ograniczenia w razie konieczności. "Innymi słowy, musimy oddzielić dostarczanie inteligencji od sprawowania nad nią kontroli". Wieloletni sternik Microsoftu wygłosił tezę, z której jasno wynika, że to człowiek powinien sprawować mechanizmy kontroli nad AI, a w razie niewystarczających standardów - konieczne jest zaprojektowanie nowych.
W swoich przemyśleniach Satya Nadella rozważa, iż AI powinno się traktować w kategoriach zagrożeń wewnętrznych, "nie dlatego, że z natury są one wrogie, lecz dlatego, że każdy podmiot o dużych możliwościach, mający dostęp do kluczowych systemów, może popełnić błąd lub paść ofiarą ataku - a architektura izolacji i kontroli musi to uwzględniać".
Sztuczna inteligencja wymaga hamulca ręcznego?
Satya Nadella jest piewcą idei wdrożenia pewnego rodzaju hamulca awaryjnego w najbardziej newralgicznych przypadkach obcowania ze sztuczną inteligencją (czy też Superinteligencją). Według CEO Microsoftu wszystko powinno przebiegać według kilku kluczowych zasadach warunkujących byt AI:
- Różnorodność modeli (żaden pojedynczy model nie może być wyznacznikiem i podstawą ważnego wyniku)
- Obserwacja wszystkiego (każde działanie modelu musi być transparentne dla człowieka. Jeśli czegoś się nie da dostrzec, nie można temu ufać)
- Weryfikowalność (nieustanne testy systemu, diagnoza awarii, ataków i zmiennych systemowych)
- Niezależna możliwość audytu (walidacja jako podstawa weryfikacji danych)
- Ograniczanie skutków (osoba decyzyjna powinna dysponować wspomnianym hamulcem awaryjnym na wypadek wyjścia modelu poza schemat)
- Ujawnienie incydentów (w przypadku awarii lub naruszenia systemów, konieczne jest terminowe poinformowanie osób dotkniętych incydentem).
Satya Nadella skwitował swoje przemyślenia krótko: najbardziej niezawodnym i godnym zaufania systemem AI będzie ten, który pozwoli nam w najmniejszym stopniu polegać na zaufaniu do samego modelu.











