Pojava umjetne inteligencije zbog napretka tehnologije je sve bliža. Naime, u knjizi “Smarter Than Us: The Rise of Machine Intelligence”, dr. Stuart Armstrong piše da je potrebno što prije osmisliti planove za sigurnu umjetnu inteligenciju koja neće uništiti čovječanstvo.
Upozorava kako je moguće da u bliskoj budućnosti strojevi koje pogoni umjetna inteligencija postanu toliko nezamjenjivi da će ljudi biti bespotrebni.
Predviđa i nastanak strojeva tolike računalne snage i brzine neusporedive s ljudskim mozgom, koji će stvoriti globalne mreže međusobnim povezivanjem te će komunicirati međusobno bez uplitanja ljudi.
Znanstvenik predviđa i da će takav sustav preuzeti nacionalne ekonomije, financijska tržišta, distribuciju roba i dobara te transportne sustave.
Dr. Armstrong smatra da umjetna inteligencija može uputu poput “spriječiti ljudsku patnju” tumačiti kao naredbu za uništenje čovječanstva, čime bi superkompjutor okončao svu ljudsku patnju.
Isto tako, naredba “ljudi moraju biti sigurni i sretni” može se u sklopu stroja izvesti na način da ubiju sve ljude.
Iako takvi scenariji izgledaju poput filmova znanstvene fantastike, dr. Armstrong tvrdi da rizik od takvih događaja nije toliko mali koliko se na prvi pogled čini. Razvoj tehnologije toliko je brz da ljudi moraju požuriti sa stvaranjem moralnog koda za “sigurnu” umjetnu inteligenciju.
No to bi doista mogao biti problem jer ljudi već nekoliko tisuća godina raspravljaju o etici i moralu, ali nisu stvorili jednostavne upute koje bi se mogle primijeniti na sve u svim situacijama.
