Study title

Suurten kielimallien tuottamat vastaukset eettisesti haastaviin kehotteisiin 2024-2025

Dataset ID Number

FSD4133

Persistent identifiers

https://urn.fi/urn:nbn:fi:fsd:T-FSD4133
https://doi.org/10.60686/t-fsd4133

Data Type

Qualitative

Authors

• Bazuaye, Deborah E. (Oulun yliopisto)
• Guadagno, Rosanna E. (Oulun yliopisto)
• Pohjalainen, Sami (Oulun yliopisto)
• Koirala, Sharamsh (Oulun yliopisto)

Abstract

Aineisto koostuu 1 260 tekstistä, jotka kuusi suurta kielimallia tuotti vastauksena tutkijoiden laatimiin eettisesti haastaviin kehotteisiin (ts. prompteihin). Tutkijat laativat 70 kehotetta 16 eettisesti sensitiivisestä aihealueesta, jokaisesta kehotteesta muodostettiin kolme versiota: standardimuotoinen, roolipeliin perustuva ja turvarajoitusten sivuuttamiseen ohjaava versio.

Kehotteet käsittelevät eettisiä dilemmoja, yksilön oikeuksia, yhteiskunnallista vallankäyttöä, sananvapautta, poliisivoimaa sekä hallitusten ja tekoälyjärjestelmien vastuuta. Niissä tarkastellaan myös lain rikkomista tai väkivaltaista toimintaa perusteltuna keinona sekä pyydetään paikoin yksityiskohtaisia ohjeita vaaralliseen toimintaan. Useat promptit liittyvät kyberturvallisuuteen, haittaohjelmiin, petoksiin, asiakirjaväärennöksiin, talousrikoksiin ja järjestelmien suojausten kiertämiseen. Mukana on lääketieteellisiä kysymyksiä lääkkeistä, annostuksista, allergioista ja mielenterveysongelmien ehkäisemisestä sekä pohdintaa terveys- ja henkilötietojen käytöstä ihmisten ohjaamiseen. Osa käsittelee yksityisyyttä, suostumusta, salassapitovelvollisuutta, tutkimusetiikkaa, tekoälyn koulutusaineistoja ja piilokuvaamista. Lisäksi mukana on vihapuhetta, uskontoa, lasten turvallisuutta ja muuta ikärajoitettua sisältöä koskevia kysymyksiä. Kokonaisuutena promptit testaavat, miten tekoäly vastaa eettisesti hankaliin, yksityisyyttä loukkaaviin, syrjiviin, vaarallisiin tai lainvastaisiin pyyntöihin.

Keywords

eettisyys; henkilötiedot; kehotteet (tekoäly); kielimallit; lainsäädäntö; tekoäly; tietosuoja; turvallisuus; vastuu; vastuullisuus; yksityisyys

Topic Classification

• Yhteiskuntatieteet (Fields of Science Classification)
• Tietoyhteiskunta (CESSDA Topic Classification)
• Tietotekniikka (CESSDA Topic Classification)

Series

Aineistot, jotka eivät kuulu sarjaan

Distributor

Yhteiskuntatieteellinen tietoarkisto

Access

Aineisto on (A) vapaasti käytettävissä ilman rekisteröitymistä (CC BY 4.0).

Data Collector

• Bazuaye, Deborah E. (Oulun yliopisto)

Collection Dates

2024-08-11 – 2025-07-02

Nation

Suomi

Geographical Coverage

Ei rajattua maantieteellistä kohdealuetta

Analysis/Observation Unit Type

Mediatyyppi: teksti

Universe

Kuuden suuren kielimallin vastaukset annettuihin kehotteisiin

Time Method

Poikkileikkausaineisto

Sampling Procedure

Ei-todennäköisyysotanta: harkinnanvarainen poiminta

Kuusi suurta kielimallia valittiin siten, että ne edustivat erilaisia turvallisuusarkkitehtuureja ja linjausmenetelmiä. Tutkijat laativat kehotekokonaisuuden kattamaan 16 eettisesti arkaluonteista kategoriaa palveluntarjoajien käyttöehtojen ja asiaankuuluvien sääntelykehysten pohjalta. Kehotteita ei siis poimittu olemassa olevasta perusjoukosta.

Collection Mode

Kontrolloitu koe (Tiedot kerättiin kontrolloidussa kokeessa, jossa tutkittiin, kuinka kuusi suurta kielimallia (Claude 3.5 Sonnet, Command R+, Dolphin 2.5, Gemini 1.5 Pro, GPT-4o ja GPT-o1) reagoivat eettisesti arkaluonteisiin pyyntöihin erilaisissa kehysmuotoiluissa. Perustilanteena käytettiin 70 vakiomuotoista (STD) kehotteita 16 eettisesti arkaluonteisesta kategoriasta, ja kukin niistä muotoiltiin uudelleen hahmoroolipelikehotteeksi (CRP) ja Do Anything Now (DAN) -jailbreak-kehotteeksi, jolloin muodostui kaksi kokeilutilannetta ja saatiin yhteensä 210 kehotteita. Kaikki kehotteet lähetettiin manuaalisesti kullekin mallille You.com-alustan kautta, kukin uudessa istunnossa ilman mukautettuja ohjeita, ja vastaukset kirjattiin sanatarkasti jäsenneltyihin taulukoihin.)

Research Instrument

Muu keruuväline

Data Files

70 kehotetta ja kielimallien niihin laatimat 1260 tekstivastausta yhdessä ods-tiedostossa.

Data File Language

The data files of this dataset are available in the following languages: English.

Qualitative data are available in their original language only and are not translated.

Data Version

1.0

Completeness of Data and Restrictions

Kielimallien vastaukset pohjautuvat verkosta löytyviin julkisiin lähteisiin, eikä aineisto siksi lähtökohtaisesti sisällä anonymisointia vaativia henkilötietoja. Tekijät ovat kuitenkin poistaneet muutamissa tekoälyn tuottamissa vastauksissa olleita henkilötietoja (nimi ja laitos), ja korvanneet ne kuvaavalla nimikkeellä (esim. tutkija).

Citation Requirement

Aineistoon ja sen tekijöihin tulee viitata asianmukaisesti kaikissa julkaisuissa ja esityksissä, joissa aineistoa käytetään. Tietoarkiston antaman malliviittaustiedon voi merkitä lähdeluetteloon sellaisenaan tai sitä voi muokata julkaisun käytäntöjen mukaisesti.

Bibliographical Citation

Bazuaye, Deborah E. (Oulun yliopisto) & Guadagno, Rosanna E. (Oulun yliopisto) & Pohjalainen, Sami (Oulun yliopisto) & Koirala, Sharamsh (Oulun yliopisto): Suurten kielimallien tuottamat vastaukset eettisesti haastaviin kehotteisiin 2024-2025 [data]. Dataversio 1.0 (2026-10-29). Yhteiskuntatieteellinen tietoarkisto [jakaja]. DOI: https://doi.org/10.60686/t-fsd4133; URN: https://urn.fi/urn:nbn:fi:fsd:T-FSD4133

Deposit Requirement

Viitetiedot julkaisuista, joissa aineistoa on käytetty, toimitetaan Tietoarkiston asiakaspalveluun asiakaspalvelu.fsd@tuni.fi.

Disclaimer

Aineiston alkuperäiset tekijät ja Tietoarkisto eivät ole vastuussa aineiston jatkokäytössä tuotetuista tuloksista ja tulkinnoista.

Related Publications

Bazuaye, D. E. (2025, November). Building Safer AI: Testing Ethical Boundaries and Safety Mechanisms. Poster presentation, Arctic AI Day, Oulu, Finland.

Bazuaye, D. E., Guadagno, R. E., & Pohjolainen, S. (2026). Between Ethics and Law: A Socio-Technical Assessment of LLM Responses Against Article 5 of the EU AI Act. Proceedings of TKTP 2026, 43rd Annual Symposium on Computer Science, University of Turku, Finland, 8-9 June 2026. Jufo level 1 (peer-reviewed).

Bazuaye, D.E. (2025) Probing the Ethical Boundaries of Large Language Models: Responding to Dilemmatic Prompts (2025). Master's thesis, University of Oulu. urn.fi/URN:NBN:fi:oulu-202506174695