Začněme situací, kterou jistě známe z etických diskusí - problém s vozíkem. Auto se blíží k davu lidí, ale má možnost se vyhnout tím, že přejede do jiného pruhu, kde je pouze jeden chodec. Co uděláte? To není jen filozofická otázka - pro vývojáře autonomních vozidel je to skutečný problém, který je třeba vyřešit.

Výzkumníci se obrátili na technologii chatbotů, jako je ChatGPT, aby zjistili, jak by takové systémy řešily etické otázky při řízení vozidel. Společnost Ghost Autonomy dokonce experimentovala s integrováním ChatGPT do svého softwaru autonomního řízení.

Kazuhiro Takemoto z Kyushu Institute of Technology se pokusil zjistit, zda chatboti dokáží dělat podobná morální rozhodnutí jako lidé. V jeho studii, nedávno publikované v časopise Proceedings of the Royal Society, analyzoval reakce různých jazykových modelů na více než 50 000 scénářů, vytvořených v rámci projektu Moral Machine.

Zdroj: Shutterstock

Výsledky naznačují, že chatboti jako ChatGPT často preferují zachování lidských životů a upřednostňují bezpečnost cestujících a chodců. Nicméně některé modely mohou mít odlišné preference a ne vždy poskytují jednoznačné odpovědi.

Další výzvou je fakt, že většina dat použitých k výcviku těchto modelů pochází ze západních zdrojů, což může vést k implicitní diskriminaci. Například výzkum naznačuje, že chatboti mají tendenci ochraňovat ženy před muži, což může být v rozporu s mezinárodními etickými standardy.

Je tedy nezbytné, aby výzkumníci lépe porozuměli tomu, jak tyto jazykové modely fungují, a zajistili, že jejich rozhodnutí jsou v souladu s etickými normami společnosti. To je klíčovým krokem směrem k integraci autonomních vozidel do našich životů.