Prezes Microsoftu ostrzega przed AI. Mówi o hamulcu awaryjnym

Satya Nadella, prezes Microsoftu podczas oficjalnego wystąpienia.
Satya Nadella, CEO MicrosoftuAFP

Spis treści:

  1. AI zmieniła technologię i rynek gier. Ceną są miejsca pracy
  2. "Czas ocenić architekturę zaufania". Satya Nadella ostrzega przed AI
  3. Człowiek musi trzymać rękę na pulsie. AI niczym zagrożenie wewnętrzne
  4. Sztuczna inteligencja wymaga hamulca ręcznego?

AI zmieniła technologię i rynek gier. Ceną są miejsca pracy

"Czas ocenić architekturę zaufania". Satya Nadella ostrzega przed AI

Satya Nadella
Satya NadellaAFP

Człowiek musi trzymać rękę na pulsie. AI niczym zagrożenie wewnętrzne

Sztuczna inteligencja wymaga hamulca ręcznego?

  • Różnorodność modeli (żaden pojedynczy model nie może być wyznacznikiem i podstawą ważnego wyniku)
  • Obserwacja wszystkiego (każde działanie modelu musi być transparentne dla człowieka. Jeśli czegoś się nie da dostrzec, nie można temu ufać)
  • Weryfikowalność (nieustanne testy systemu, diagnoza awarii, ataków i zmiennych systemowych)
  • Niezależna możliwość audytu (walidacja jako podstawa weryfikacji danych)
  • Ograniczanie skutków (osoba decyzyjna powinna dysponować wspomnianym hamulcem awaryjnym na wypadek wyjścia modelu poza schemat)
  • Ujawnienie incydentów (w przypadku awarii lub naruszenia systemów, konieczne jest terminowe poinformowanie osób dotkniętych incydentem).

Zobacz również:

Dying Light: The Beast - Restored Land - trailermateriały prasowe
Masz sugestie, uwagi albo widzisz błąd?