gaweł pisze:No koniec świata. Jeszcze trochę a będą nami rządzić
"Co to znaczy, że sztuczna inteligencja jest leniwa?"Prof. Aleksander Mądry, Massachusetts Institute of Technology, kierownik zespołu gotowości (Head of Preparedness) w OpenAI"Na przykład kiedyś opracowano model, który na zdjęciach rentgenowskich płuc rozpoznawał, czy pacjent ma gruźlicę. W testach zyskiwał lepsze wyniki od lekarzy. Jednak gdy próbowano zastosować go do rozpoznawania prawdziwych, nie testowych zdjęć, okazało się, że zupełnie sobie nie radzi.
Dlaczego?Bo model nie patrzył na zdjęcia płuc, tylko szukał informacji o modelu maszyny rentgenowskiej. Później okazało się, że zdjęcia, na których trenowany był ten model, miały pewną ukrytą zależność. Na zdjęciach z droższych maszyn, które znajdowały się w bogatszych krajach, gdzie gruźlica występuje rzadziej, choroba ta prawie w ogóle się nie pojawiała. Z kolei na tańszych maszynach z biedniejszych krajów gruźlica pojawiała się częściej. Ten model AI znalazł najprostszy sposób "zdania egzaminu". W tym wypadku było to po prostu skupieniu się na rozpoznawaniu czy zdjęcie, które jest analizowane pochodzi z droższej, czy może tańszej maszyny (zamiast czy zawiera gruźlicę). I w pierwszym przypadku automatycznie uznanie, że to oznacza, że zdjęcie nie zawiera gruźlicy, a w drugim, że ją zawiera."
Na razie nie ma czego się bać.
