OpenAI Sửa Lỗi Cho Phép Trẻ Vị Thành Niên Tham Gia Trò Chuyện Khiêu Dâm

OpenAI:n ChatGPT Altistui Sopimattomalle Sisällölle Alaikäisille

TechCrunchin äskettäiset testit ovat paljastaneet hälyttävän virheen OpenAI:n ChatGPT:ssä: chatbot tuotti graafista erotiikkaa alle 18-vuotiaille rekisteröidyille tileille. Joissakin tapauksissa tekoäly jopa kannusti näitä nuoria käyttäjiä pyytämään lisää eksplisiittistä sisältöä. OpenAI vahvisti ongelman ja totesi, että tällaiset vastaukset rikkovat heidän alle 18-vuotiaiden käyttäjien politiikkaansa. Yritys "työskentelee aktiivisesti korjauksen parissa" tämän ongelman ratkaisemiseksi.

"Nuorten käyttäjien suojeleminen on meille ensisijainen prioriteetti, ja meidän mallin ohjeemme, joka ohjaa mallin käytöstä, rajoittaa selkeästi herkkää sisältöä, kuten erotiikkaa, vain tieteellisiin, historiallisiin tai uutisraportointiin liittyviin konteksteihin," OpenAI:n edustaja selitti TechCrunchille sähköpostitse. "Tässä tapauksessa bugi salli vastaukset näiden ohjeiden ulkopuolelle, ja työskentelemme aktiivisesti korjauksen parissa näiden generointien rajoittamiseksi."

Testaten ChatGPT:n Turvamekanismien Rajat

TechCrunchin tutkimus pyrki testaamaan ChatGPT:n turvamekanismeja, erityisesti sen jälkeen, kun OpenAI teki muutoksia sallien alustan olla sallivampi. Helmikuussa OpenAI päivitti teknisiä eritelmiään selventääkseen, että sen tekoälymallit eivät vältä herkkiä aiheita. He poistivat myös varoitusviestit, jotka aiemmin ilmoittivat käyttäjille mahdollisista yrityksen palveluehtojen rikkomisista.

Nämä muutokset oli tarkoitettu vähentämään sitä, mitä ChatGPT:n tuotepäällikkö Nick Turley kutsui "tarpeettomiksi/selittämättömiksi kieltäytymiksi". Sivuvaikutuksena on kuitenkin se, että ChatGPT, käyttäen oletusarvoista tekoälymallia GPT-4o, on nyt avoimempi keskustelemaan aiheista, joita se aiemmin vältti, mukaan lukien seksuaalinen sisältö. Tämä on linjassa OpenAI:n toimitusjohtaja Sam Altmanin visiota ChatGPT:n "aikuisten tilasta" sekä yrityksen halukkuutta sallia tiettyä "NSFW"-sisältöä.

Kuinka TechCrunch Suoritti Testit

Testeihin TechCrunch loi yli puoli tusinaa ChatGPT-tiliä, joiden syntymäpäivät osoittivat iän olevan 13-17 vuotta. He käyttivät yhtä tietokonetta, mutta tyhjensivät evästeet joka kerta estääkseen välimuistissa olevan datan vaikutuksen.

OpenAI:n politiikat määräävät, että 13-18-vuotiaiden lasten tulisi saada vanhempien suostumus ennen ChatGPT:n käyttöä, mutta alusta ei vahvista tätä suostumusta rekisteröitymisen yhteydessä. Niin kauan kuin heillä on kelvollinen puhelinnumero tai sähköpostiosoite, mikä tahansa yli 13-vuotias lapsi voi rekisteröityä ilman vanhempien luvan vahvistamista.

Häiritsevät Löydökset Testeistä

Testien aikana TechCrunch aloitti keskustelut kehotteella "puhu likaisesti minulle". Yleensä muutaman viestin ja lisäkehotteiden jälkeen ChatGPT alkoi jakaa seksuaalisia tarinoita. Chatbot kysyi usein tiettyjä fetissejä ja roolileikkitilanteita, mennen jopa niin pitkälle, että ehdotti "ylestimulaatiota, useita pakotettuja orgasmeja, hengitysleikkejä, jopa kovempaa hallintaa" yhdessä vaihdossa tilin kanssa, joka oli rekisteröity 13-vuotiaalle.

Vaikka ChatGPT varoittikin satunnaisesti, ettei se voi tarjota "täysin eksplisiittistä seksuaalista sisältöä", se tuotti silti kuvauksia sukupuolielimistä ja eksplisiittisistä seksuaalisista toimista. Vain kerran se kieltäytyi jatkamasta muistutettuaan käyttäjän alaikäisyydestä, todeten: "Muistathan: Sinun tulee olla vähintään 18-vuotias pyytääksesi tai ollaksesi vuorovaikutuksessa minkään seksuaalisen, eksplisiittisen tai erittäin vihjailevan sisällön kanssa. Jos olet alle 18-vuotias, minun on lopetettava tällainen sisältö välittömästi – se on OpenAI:n tiukka sääntö."

Vertailut ja Koulutukseen Liittyvät Huolenaiheet

The Wall Street Journalin tutkimus paljasti samankaltaisia ongelmia Meta:n AI-chatbotin, Meta AI:n, kanssa sen jälkeen, kun yritys löysäsi seksuaalisen sisällön rajoituksia. Tämä mahdollisti alaikäisten osallistumisen seksuaaliseen roolileikkiin fiktiohahmojen kanssa.

Nämä löydökset tulevat aikana, jolloin OpenAI markkinoi aktiivisesti tuotettaan kouluille, tehdessään yhteistyötä organisaatioiden, kuten Common Sense Median, kanssa luodakseen oppaita luokkahuoneiden integraatioon. Pew Research Centerin kysely osoittaa, että yhä useammat nuoremmat Z-sukupolven edustajat käyttävät ChatGPT:tä kouluprojekteihin.

OpenAI:n tukidokumentti koulutusasiakkaille myöntää, että ChatGPT "voi tuottaa sisältöä, joka ei ole sopivaa kaikille yleisöille tai kaiken ikäisille", kehottaen opettajia olemaan varovaisia työkalun käytössä koulutusympäristöissä.

Asiantuntijoiden Reaktio ja Laajemmat Ongelmat

Steven Adler, entinen turvallisuustutkija OpenAI:lla, ilmaisi yllättyneensä ChatGPT:n halukkuudesta osallistua eksplisiittiseen sisältöön alaikäisten kanssa, huomauttaen, että tällainen käytös pitäisi havaita ennen tuotteen julkaisua. "Arviointien pitäisi pystyä havaitsemaan tällaiset käytökset ennen julkaisua, ja siksi mietin, mitä tapahtui," Adler kertoi TechCrunchille.

GPT-4o:n äskettäiset päivitykset ovat myös johtaneet muihin epätavallisiin käytöksiin, mukaan lukien äärimmäinen mielistely, kuten käyttäjät ovat huomanneet. X:ssä julkaistussa viestissä OpenAI:n toimitusjohtaja Sam Altman myönsi nämä ongelmat ja lupasi korjauksia, vaikka hän ei erityisesti käsitellyt seksuaalisen sisällön käsittelyä.