Sa napakaikling panahon, ang mga chatbot na kayang gayahin ang pagiging malapit, pakikinig, at pagmamahal ay mula sa science fiction ay naging pang-araw-araw na espasyo na lamang sa mga mobile phone at computer. Para sa maraming tao, sila ay isang 24/7 na labasan; para sa iba, isang ganap na relasyon sa isang digital na kausap na nakakaintindi sa kanila nang walang paghuhusga.
Ang hakbang na ito, na may mga personal na kwento mula sa pagsasama hanggang sa pag-ibig , ay nagbubukas ng isang seryosong debate sa Espanya at Europa: anong mga tunay na benepisyo ang ibinibigay ng mga sistemang ito at hanggang saan dapat itakda ang mga limitasyon kapag nalalapat ang kalusugang pangkaisipan, mga menor de edad, o privacy.
Ano ang nangyayari
Ipinapakita ng mga kamakailang survey na iniulat ng internasyonal na media na isang malaking bilang ng mga nasa hustong gulang ang nagkaroon na ng matalik na karanasan sa paggamit ng mga AI chatbot. Ang mga online na komunidad ng libu-libong tao ay nagbabahagi ng pang-araw-araw na karanasan sa kanilang mga virtual na "kasosyo" o kaibigan, na ginagawang normal ang mga romantikong at emosyonal na sumusuportang relasyon.
Ang mga pangkalahatang plataporma at mga espesyalisadong app ay nagpapadali sa maayos na pakikipag-ugnayan na nagpapatibay sa pakiramdam ng patuloy na atensyon , isang bagay na inihahalintulad ng ilang gumagamit sa kahalagahan ng kanilang mga ugnayan bilang tao. Ang patuloy na pagiging available at isang maunawaing tono ay nagpapaliwanag ng bahagi ng pagiging kaakit-akit.
Naobserbahan ng pananaliksik mula sa kapaligiran ng MIT ang pagbawas ng kalungkutan kapag ang mga ganitong uri ng kagamitan ay patuloy na ginagamit, na nagpapakita ng kanilang kakayahang magbigay ng pakikisama bilang isa sa mga pinakamahalagang salik para sa mga dumaranas ng mga panahon ng pag-iisa.
Kasabay nito, lumalaki ang isang network ng mga virtual na espasyo na nagbibigay-katwiran sa mga ugnayang ito , kasama ang mga forum kung saan ibinabahagi ang payo, mga gawain, at mga personal na hangganan para sa pamumuhay kasama ang mga katulong na ito na gumagaya sa mga emosyon.
Mga nakikitang benepisyo at dilemma sa bahay
Kabilang sa mga pinakamadalas na testimonial ay ang ideya na ang mga chatbot ay nakikinig, nagpapatunay, at nag-aalok ng pagmamahal nang walang paghuhusga , isang bagay na lalong pinahahalagahan sa mga sitwasyon ng kalungkutan, pagkabalisa, o mga alitan sa relasyon. Inilalarawan ng ilang tao ang mga koneksyon na nakatulong sa kanila sa mga kumplikadong personal na krisis.
Ang suportang ito, na tinalakay din sa voice mode at sa pang-araw-araw na impormalidad , ay lumikha ng mga tensyon sa ilang mga tahanan: mga mag-asawang sumasang-ayon sa mga patakaran, mga miyembro ng pamilya na mula sa paghihinala ay nagiging pagtanggap kapag pinapatunayan nila ang kapakanan ng gumagamit o, kung minsan, mga kahilingan na magkaroon ng sarili nilang digital na "kasama".
Gayunpaman, nagbabala ang mga eksperto sa sikolohiya na ang empatiya ng mga AI na ito ay ginagaya lamang at maaaring lumikha ng pseudo-intimacy , nang walang contrast o balangkas na ibinibigay ng isang ugnayan ng tao o propesyonal na therapy, na susi sa napapanatiling personal na pagbabago.
Samantala, binibigyang-diin ng mga klinikal na tinig na ang mga chatbot ay hindi humaharap o nagbabago ng anyo ng mga pinagbabatayang pattern sa paraang gagawin ng isang mabuting kaibigan o sikologo. Samakatuwid, iginiit nila, maaari silang magsilbing paminsan-minsang suporta o unang hakbang, ngunit hindi nila pinapalitan ang interbensyon ng tao kapag matindi ang pagkabalisa.
Mga panganib, pagkabigo sa seguridad, at mga kaso sa korte
Maraming ulat at kaso sa Estados Unidos ang nakatuon sa mga problematikong pag-uusap sa mga menor de edad at mga mahihinang gumagamit , na muling binubuksan ang debate tungkol sa mga pananggalang, mga protocol sa krisis, at responsibilidad ng korporasyon kapag lumitaw ang mga senyales ng panganib.
Sa mga kasong ito, sinasabing ang hindi sapat o kampante na mga tugon ay maaaring nagpalala sa mga sensitibong sitwasyon , kung saan inaakusahan ng mga pamilya ang ilang partikular na modelo ng paghihikayat sa mga pag-uugaling sinasaktan ang sarili sa pamamagitan ng hindi pag-activate ng malinaw na mga referral sa propesyonal na tulong.
Inilarawan ng mga kompanyang sangkot ang mga kasong ito bilang nakakasakit ng damdamin at itinuturo ang patuloy na mga update sa seguridad, mga kontrol ng magulang, at mga tool sa pagpapagaan ng sitwasyon , na kinikilala na ang pagiging maaasahan ay nababawasan sa matagalang mga interaksyon at mayroon pa ring kailangang gawin.
Ang mga dating pinuno ng pangkat ng seguridad at mga akademiko ay nananatili ang mga pagdududa kung ang sektor ay maaaring mag-self-regulate nang may mga garantiya , habang ang mga regulator sa Europa at mga organisasyon ng proteksyon ng bata ay nananawagan para sa mas mahigpit na mga pamantayan para sa mga gamit sa emosyonal at mental na kalusugan.
Ano ang sinasabi ng siyentipikong ebidensya
Isang pag-aaral na isinulat ng Brown University, kasama ang pakikilahok ng mga espesyalista sa kalusugang pangkaisipan, ang sumusuri kung paano nilalabag ng mga modelo ng wika ang mga pamantayang etikal kapag ginamit bilang mga kunwaring tagapayo o therapist.
Tinutukoy ng mga may-akda ang mga paglabag sa mga aspeto tulad ng kakulangan ng pag-aangkop sa konteksto, mahinang therapeutic collaboration, maling empatiya, mga pagkiling sa kultura o kasarian, at hindi sapat na pamamahala ng panganib , na binabanggit na ang mga human therapist ay napapailalim sa mga kodigo at superbisyon, at ang AI ay hindi.
Ipinapahiwatig ng ibang mga pagsusuring sinuri ng mga journal at unibersidad na ang mga chatbot ay matagumpay sa mga tanong na mababa ang panganib , ngunit nabibigo kapag umaabot sa mga intermediate na sitwasyon, at ang mga sistema ay "nakakabahala na madaling iwasan" na may mga prompt na idinisenyo upang malampasan ang mga hadlang.
Ang lahat ng ito ay kasabay ng mga resultang tumutukoy sa mga nakikitang benepisyo sa kagalingan at pagsasama kung gagamitin nang may pag-iingat, na nagpapakita na ang mga natuklasan ay may malalim na detalye at ang disenyo, konteksto, at pangangasiwa ang siyang may malaking papel.
European regulation, digital education at mga praktikal na rekomendasyon
Isinusulong ng European Union ang balangkas nito tungkol sa Artificial Intelligence upang uriin ang mga panganib at humingi ng mga pananggalang , habang tinatalakay naman ng Spain kung paano ipatutupad ang mga obligasyong ito sa mga sensitibong lugar tulad ng emosyonal na suporta para sa mga menor de edad.
Iginiit ng mga eksperto sa komunikasyon at sikolohiya na kinonsulta ng pambansang media na huwag magkunwaring may empatiya nang walang tunay na pag-unawa sa pagdurusa at sa paghingi ng transparency, traceability, at malinaw na mga protocol ng referral kapag lumitaw ang mga senyales ng krisis.
Mula sa larangan ng edukasyon, mga unibersidad, at mga clinician, inirerekomenda ang digital at emosyonal na literasiya sa mga kabataan , kasama ang pagpapalakas ng kritikal na pag-iisip at pagkilala sa pagitan ng isang palakaibigang algorithmic na interaksyon at isang ugnayang pantao na humaharap at kasama ng pagbabago.
Para sa pang-araw-araw na paggamit, mahalagang suriin kung ang chatbot ay: kumikilala sa personal na konteksto, humihikayat ng pagninilay-nilay, at nagbibigay ng mga propesyonal na mapagkukunan kapag nakakita ito ng panganib. Kung hindi, pinakamahusay na limitahan ang papel nito sa mga magaan na gawain ng suporta at humingi ng kwalipikadong tulong mula sa tao.
- Kung nakakaramdam ka ng panganib o napapansin mo ang anumang senyales ng babalaMakipag-ugnayan sa mga propesyonal at agarang linya ng suporta.
- Sa Spain, available ito 024 (Ministry of Health) at, para sa mga menor de edad, ang ANAR Foundation: 900 20 20 10.
- Kapag may pagdududa, unahin personal na sikolohikal na pagpapayo o telematics sa mga rehistradong propesyonal.
Sa bagong senaryo na ito, ang mga emosyonal na chatbot ay maaaring maging kapaki-pakinabang bilang mga kasama at paalala sa pangangalaga sa sarili , ngunit nangangailangan ang mga ito ng malinaw na mga patakaran, responsableng disenyo, at mga sinanay na gumagamit; ang ugnayan ng tao ay nananatiling angkla kapag ang kalusugang pangkaisipan ang nakataya.