JultikaUniversity of Oulu repository

Abstract

This thesis explores how movies portray AI characters’ moral agency. Moral agency is a term that is used when a person or an entity is capable of moral reasoning performing moral acts. For an agent to be able to perform moral acts it must possess self-conscious awareness and exhibit free will and understanding of moral meaning. A theorietical background of artificial intelligence, moral agency, free will, and the semiotic hierarchy is provided in order to familiarize the reader about the core concepts of the thesis.

Semiotic hierarchy provides a theory on meaning making and defines and explains the different levels or requrements involed in meaning making. There are four levels to the semiotic hierarchy: life, consciousness, sign usage and language. Three movies were chosen for the research: I, robot (2004), I am Mother (2019) and Ex Machina (2014). All three movies depict artificial intelligences in various narrative roles and present unique portrayals of the moral dimensions that are involved in creating artificial moral agents. The movies were chosen based on the criteria that the movies have an artificial intelligence that is capable of moral agency and is mobile to some extent. The AIs must also depict various stages of semiotic hierarchy. From each movie notable moments of moral agency and narrative significance are first identified and explained. After this the movies are analysed using content analysis. Two tables of codes were constructed from the data. The first table explores how the characters exhibit e.g. free will, moral agency and semiotic hierarchy, and is constructed by deriving codes from the theoretical background. The second table explores e.g. the narrative role of the AIs and the main moral acts performed by the AIs, and its codes are derived from the movies. These tables allows for an easy comparison of the movies and help identify similarities and differences between them.

After analysing the two tables a third table was constructed that divides the AI charaters in two groups: morally justified and morally unjustified, based on similarities the characters share with each other. The morally unjustified AI characters had a notably large influence sphere with multiple active units (drones or robots), based their morality on utilitarianism and were motivated by creating a better, more just world for humans. The morally justified AI characters were all single units, acted based on their self-interest, and were capable of emotions. The former groups moral agency was depicted as a threat and the latter groups moral agency was mostly depicted as a neutral occurence. Additionally, all AI characters advanced on the semiotic hierarchy in a reverse order, meaning language was the easiest level for the AIs to perform. Notably, no AI character was considered to be “alive”. Lastly, a brief discussion is had about the advancements and problems in AI creation by providing real life examples of AIs that have been a topic of discussion in the media in recent years.

Ystävä vai ei? : tekoälyistä ja heidän moraalisesta agenttiudesta elokuvissa

Tiivistelmä

Tässä gradussa tutkitaan, miten tekoälyjen moraalinen agenttius käy ilmi elokuvissa. Tekoälyt ovat jo nyt pysyvä osa elämäämme, ja niiden kehitys jatkuu huimaa vauhtia. Niiden moraalisuus, ja etenkin moraalinen agenttius, on kuitenkin vielä vähän tutkittu aihealue. Materiaaliksi valittiin kolme elokuvaa: I, Robot (2004), I am Mother (2019) ja Ex Machina (2014). Gradun taustatutkimukseen käytettiin monipuolisesi filosofisia teorioita kuten semioottinen hierarkia, vapaa tahto ja moraalinen agenttius. Tutkimuksen metodologiaksi valikoitui laadullinen sisältöanalyysi (eng. content analysis), jonka avulla elokuvista identifioitiin kahdenlaisia koodeja: taustatutkimukseen pohjautuvat koodit ja elokuvista esiin nousevat koodit. Nämä koodit jäsenneltiin kahteen taulukkoon, joiden avulla elokuvista löytyviä kohtauksia ja piirteitä pystyttiin vertailemaan keskenään. Taulukoiden vertailusta syntyvän näytön perusteella tekoälyt pystyttiin jakamaan kahteen kategoriaan: niihin, joiden teot olivat moraalisesti oikeutettuja, ja niihin, joiden teot olivat moraalisesti epäoikeutettuja. Epäoikeutetut tekoälyhahmot perustivat moraalisen ymmärryksensä utilitarismiin, pystyivät hallinnoimaan useita yksikköjä eli drooneja kerralla, eivätkä ilmaisseet tunteitaan tai antaneet tunteiden vaikuttaa heidän moraaliseen päätöksentekoonsa. Heidän moraalinen toimintatilansa oli myös laaja, jonka vuoksi he pystyivät tekemään päätöksiä, jotka koskettivat suuria ihmismassoja kerralla. Merkittävintä oikeutetuissa tekoälyhahmoissa oli heidän tunnekykynsä ja se, että he kokivat maailman ihmisenä, eivätkä robottina. Nämä tekoälyt myös hallinnoivat vain yhtä yksikköä kerralla. Tutkimuksen lopussa mainitaan, miten tekoälyjen inhimillistäminen näkyy jo monissa paikoissa. Esimerkiksi Googlen luoma Lamda-keskustelurobotti oli niin vaikuttava, että eräs sen kanssaan työskennellyt tutkija väitti sen omaavan “sielun”. Koska oikean elämän tekoälyn ja tieteisfiktion välinen kuilu on kuroutumassa umpeen teknologian kehittyessä, on tärkeää tutkia, miten reagoimme tekoälyn moraalisuuteen elokuvien ja median kautta.