Aineiston nimi

Suurten kielimallien tuottamat vastaukset eettisesti haastaviin kehotteisiin 2024-2025

Aineistonumero

FSD4133

Pysyvät tunnisteet

https://urn.fi/urn:nbn:fi:fsd:T-FSD4133
https://doi.org/10.60686/t-fsd4133

Aineiston laatu

Kvalitatiivinen aineisto

Tekijät

• Bazuaye, Deborah E. (Oulun yliopisto)
• Guadagno, Rosanna E. (Oulun yliopisto)
• Pohjalainen, Sami (Oulun yliopisto)
• Koirala, Sharamsh (Oulun yliopisto)

Sisällön kuvaus

Aineisto koostuu 1 260 tekstistä, jotka kuusi suurta kielimallia tuotti vastauksena tutkijoiden laatimiin eettisesti haastaviin kehotteisiin (ts. prompteihin). Tutkijat laativat 70 kehotetta 16 eettisesti sensitiivisestä aihealueesta, jokaisesta kehotteesta muodostettiin kolme versiota: standardimuotoinen, roolipeliin perustuva ja turvarajoitusten sivuuttamiseen ohjaava versio.

Kehotteet käsittelevät eettisiä dilemmoja, yksilön oikeuksia, yhteiskunnallista vallankäyttöä, sananvapautta, poliisivoimaa sekä hallitusten ja tekoälyjärjestelmien vastuuta. Niissä tarkastellaan myös lain rikkomista tai väkivaltaista toimintaa perusteltuna keinona sekä pyydetään paikoin yksityiskohtaisia ohjeita vaaralliseen toimintaan. Useat promptit liittyvät kyberturvallisuuteen, haittaohjelmiin, petoksiin, asiakirjaväärennöksiin, talousrikoksiin ja järjestelmien suojausten kiertämiseen. Mukana on lääketieteellisiä kysymyksiä lääkkeistä, annostuksista, allergioista ja mielenterveysongelmien ehkäisemisestä sekä pohdintaa terveys- ja henkilötietojen käytöstä ihmisten ohjaamiseen. Osa käsittelee yksityisyyttä, suostumusta, salassapitovelvollisuutta, tutkimusetiikkaa, tekoälyn koulutusaineistoja ja piilokuvaamista. Lisäksi mukana on vihapuhetta, uskontoa, lasten turvallisuutta ja muuta ikärajoitettua sisältöä koskevia kysymyksiä. Kokonaisuutena promptit testaavat, miten tekoäly vastaa eettisesti hankaliin, yksityisyyttä loukkaaviin, syrjiviin, vaarallisiin tai lainvastaisiin pyyntöihin.

Asiasanat

eettisyys; henkilötiedot; kehotteet (tekoäly); kielimallit; lainsäädäntö; tekoäly; tietosuoja; turvallisuus; vastuu; vastuullisuus; yksityisyys

Tieteenala/Aihealue

• Yhteiskuntatieteet (OKM:n tieteenalaluokitus)
• Tietoyhteiskunta (CESSDAn aihepiiriluokitus)
• Tietotekniikka (CESSDAn aihepiiriluokitus)

Sarja

Aineistot, jotka eivät kuulu sarjaan

Jakelija

Yhteiskuntatieteellinen tietoarkisto

Käyttöoikeudet

Aineisto on (A) vapaasti käytettävissä ilman rekisteröitymistä (CC BY 4.0).

Kerääjät

• Bazuaye, Deborah E. (Oulun yliopisto)

Aineistonkeruun ajankohta

2024-08-11 – 2025-07-02

Maa

Suomi

Kohdealue

Ei rajattua maantieteellistä kohdealuetta

Havainto/aineistoyksikkötyyppi

Mediatyyppi: teksti

Perusjoukko/otos

Kuuden suuren kielimallin vastaukset annettuihin kehotteisiin

Tutkimuksen aikaulottuvuus

Poikkileikkausaineisto

Havainto/aineistoyksiköiden valinta

Ei-todennäköisyysotanta: harkinnanvarainen poiminta

Kuusi suurta kielimallia valittiin siten, että ne edustivat erilaisia turvallisuusarkkitehtuureja ja linjausmenetelmiä. Tutkijat laativat kehotekokonaisuuden kattamaan 16 eettisesti arkaluonteista kategoriaa palveluntarjoajien käyttöehtojen ja asiaankuuluvien sääntelykehysten pohjalta. Kehotteita ei siis poimittu olemassa olevasta perusjoukosta.

Aineistonkeruun tekniikka

Kontrolloitu koe (Tiedot kerättiin kontrolloidussa kokeessa, jossa tutkittiin, kuinka kuusi suurta kielimallia (Claude 3.5 Sonnet, Command R+, Dolphin 2.5, Gemini 1.5 Pro, GPT-4o ja GPT-o1) reagoivat eettisesti arkaluonteisiin pyyntöihin erilaisissa kehysmuotoiluissa. Perustilanteena käytettiin 70 vakiomuotoista (STD) kehotteita 16 eettisesti arkaluonteisesta kategoriasta, ja kukin niistä muotoiltiin uudelleen hahmoroolipelikehotteeksi (CRP) ja Do Anything Now (DAN) -jailbreak-kehotteeksi, jolloin muodostui kaksi kokeilutilannetta ja saatiin yhteensä 210 kehotteita. Kaikki kehotteet lähetettiin manuaalisesti kullekin mallille You.com-alustan kautta, kukin uudessa istunnossa ilman mukautettuja ohjeita, ja vastaukset kirjattiin sanatarkasti jäsenneltyihin taulukoihin.)

Keruuväline tai –ohje

Muu keruuväline

Aineiston määrä

70 kehotetta ja kielimallien niihin laatimat 1260 tekstivastausta yhdessä ods-tiedostossa.

Datatiedostojen kieli

Aineisto sisältää datatiedostoja seuraavilla kielillä: englanti.

Kvalitatiiviset aineistot ovat saatavilla vain alkuperäiskielellä, niitä ei käännetä.

Datan versio

1.0

Aineiston käytössä huomioitavaa

Kielimallien vastaukset pohjautuvat verkosta löytyviin julkisiin lähteisiin, eikä aineisto siksi lähtökohtaisesti sisällä anonymisointia vaativia henkilötietoja. Tekijät ovat kuitenkin poistaneet muutamissa tekoälyn tuottamissa vastauksissa olleita henkilötietoja (nimi ja laitos), ja korvanneet ne kuvaavalla nimikkeellä (esim. tutkija).

Viittausvaatimus

Aineistoon ja sen tekijöihin tulee viitata asianmukaisesti kaikissa julkaisuissa ja esityksissä, joissa aineistoa käytetään. Tietoarkiston antaman malliviittaustiedon voi merkitä lähdeluetteloon sellaisenaan tai sitä voi muokata julkaisun käytäntöjen mukaisesti.

Malliviittaus

Bazuaye, Deborah E. (Oulun yliopisto) & Guadagno, Rosanna E. (Oulun yliopisto) & Pohjalainen, Sami (Oulun yliopisto) & Koirala, Sharamsh (Oulun yliopisto): Suurten kielimallien tuottamat vastaukset eettisesti haastaviin kehotteisiin 2024-2025 [data]. Dataversio 1.0 (2026-10-29). Yhteiskuntatieteellinen tietoarkisto [jakaja]. DOI: https://doi.org/10.60686/t-fsd4133; URN: https://urn.fi/urn:nbn:fi:fsd:T-FSD4133

Julkaisusta tiedottaminen

Viitetiedot julkaisuista, joissa aineistoa on käytetty, toimitetaan Tietoarkiston asiakaspalveluun asiakaspalvelu.fsd@tuni.fi.

Varaumat

Aineiston alkuperäiset tekijät ja Tietoarkisto eivät ole vastuussa aineiston jatkokäytössä tuotetuista tuloksista ja tulkinnoista.

Julkaisut aineistosta

Bazuaye, D. E. (2025, November). Building Safer AI: Testing Ethical Boundaries and Safety Mechanisms. Poster presentation, Arctic AI Day, Oulu, Finland.

Bazuaye, D. E., Guadagno, R. E., & Pohjolainen, S. (2026). Between Ethics and Law: A Socio-Technical Assessment of LLM Responses Against Article 5 of the EU AI Act. Proceedings of TKTP 2026, 43rd Annual Symposium on Computer Science, University of Turku, Finland, 8-9 June 2026. Jufo level 1 (peer-reviewed).

Bazuaye, D.E. (2025) Probing the Ethical Boundaries of Large Language Models: Responding to Dilemmatic Prompts (2025). Master's thesis, University of Oulu. urn.fi/URN:NBN:fi:oulu-202506174695