Im bardziej zalgorytmizowane rozwiązania przejmą systemy sterujące naszym życiem, tym szybciej inwestorzy zorientują się, że nie musi to być droga do większych zysków, a świetny sposób na multiplikację błędów.
Filharmonia w Hamburgu to najprawdopodobniej najlepszy budynek tego rodzaju na świecie. Nie chodzi tylko o to, że jest piękny wizualnie: odbijające otoczenie lustrzanosrebrzyste ściany kontrastują z kamiennoceglanymi podporami, a całość, posadowiona nad wodą wydaje się lekko unosić w powietrzu. Zdumienie i zachwyt wzbudza linia dachu, który ma nie tylko nieregularnie pofałdowane krawędzie, ale wydaje się też wklęsły. Równie piękny i niesamowity wygląd znajdziemy w środku. Sufit, jeszcze bardziej nieregularny niż dach, przypomina gigantyczny odwrócony kielich kwiatu. Widownia także nie jest regularna – miejsca są ułożone w liniach fal, co przeczy klasycznym kanonom konstruowania sal koncertowych.
Jednak największe zdumienie i zachwyt budzi powierzchnia sufitu, złożona z dziesięciu tysięcy paneli akustycznych, z których wszystkie zostały zaprojektowane indywidualnie, aby dokładnie odwzorować dźwięk dla każdego z dwóch tysięcy stu słuchaczy. Panele, zrobione z gipsu w formie włókien, ułożone są w taki sposób, by w każdym miejscu sali odbiór muzyki był idealny. Każdy panel składa się z miliona komórek, które w zależności od kształtu i położenia tłumią lub wzmacniają dźwięk, kontrolując pogłos w każdym miejscu.
Panele te zostały zaprojektowane z wykorzystaniem algorytmów, które… przeraziły używającego ich architekta, Benjamina Korena. Powiedział on w jednym z wywiadów, że miał całkowitą kontrolę nad tworzeniem algorytmów do projektowania paneli, ale potem nie miał kontroli nad procesem tworzenia powierzchni paneli. Każdemu przewrażliwionemu na punkcie zagrożeń ze strony algorytmów przejmujących władzę nad światem już teraz powinna zapalić się co najmniej jedna czerwona lampka. A kolejne, gdy dowie się, że na skutek zastosowania takiej metody projektowania budowa opóźniła się o siedem lat i kosztowała dziesięć razy więcej niż pierwotny budżet: nie ok. 80, ale ponad 800 milionów dolarów.
Czyż to nie skandal, że ogon macha psem, czyli narzędzie, które powinno przyspieszyć proces wydłuża go i do tego powoduje tak gigantyczny wzrost kosztów?
Wszędzie tam, gdzie komputery przejmują zarządzanie skomplikowanymi procesami, rosną różne ryzyka. W tym przypadku były to „tylko” opóźnienia i wzrost kosztów. Tylko? Raczej aż. Bo cyfryzacja procesów nie musi być usprawnieniem, ale może być muliplikacją wszystkich błędów, które mogą wystąpić. Prosty błąd w obliczeniach spowoduje, że inwestorzy korzystający ze zautomatyzowanych systemów giełdowych stracą nie 10, ale 100 milionów dolarów w sekundę. Taki sam błąd spowoduje, że problem z punktualnością lokalnych pociągów rozleje się na cały system połączeń, zintegrowany wcześniej w nadziei na zwiększenie bezpieczeństwa i zmniejszenie kosztów.
Im bardziej zalgorytmizowane rozwiązania przejmą systemy sterujące naszym życiem, tym szybciej inwestorzy zorientują się, że to nie musi być droga do większych zysków. Jest natomiast świetnym sposobem na multiplikację błędu. Algorytmy nie zawładną światem dlatego, że ktoś przytomnie powstrzyma przemiany, prowadzące do coraz większej automatyzacji, ale dlatego, że właściciele usług, globalnych rynków i innych narzędzi opartych na omylnych algorytmach będą bali się ryzyka multiplikacji błędów na skutek omyłek sztucznej inteligencji. Oczywiście do momentu, w którym technika pójdzie tak do przodu, że nic już nie powstrzyma procesu zamiany pracy ludzkiej na zautomatyzowaną. I wtedy nastąpi chaos doskonały. Uczmy się więc żyć w chaosie, bo to nasza przyszłość.
źródło: www.computerworld.pl