Sa napakaikling panahon, mga chatbot na may kakayahang gayahin ang pagiging malapit, pakikinig, at pagmamahal Napunta sila mula sa science fiction hanggang sa pag-okupa ng pang-araw-araw na espasyo sa mga mobile phone at computer. Para sa maraming tao, 24/7 outlet sila; para sa iba, isang ganap na relasyon sa isang digital interlocutor na nauunawaan sila nang walang paghuhusga.
Itong pagtalon, na may mga personal na kwento mula sa pagsasama hanggang sa umiibigIto ay nagbubukas ng isang seryosong debate sa Spain at Europe: anong mga tunay na benepisyo ang ibinibigay ng mga sistemang ito at kung gaano kalayo ang dapat itakda kapag ang kalusugan ng isip, mga menor de edad, o privacy ay naglaro.
Ano ang nangyayari
Ang mga kamakailang survey na nakolekta ng internasyonal na media ay nagpapakita na Malaking bilang ng mga nasa hustong gulang ang nagkaroon na ng matalik na karanasan sa mga chatbot. artipisyal na katalinuhan. Ang mga online na komunidad ng libu-libong tao ay nagbabahagi ng mga pang-araw-araw na karanasan sa kanilang virtual na "mga kasosyo" o mga kaibigan, na ginagawang normal ang romantikong at emosyonal na mga relasyon sa suporta.
Pinapadali ng mga pangkalahatang platform at espesyal na app tuluy-tuloy na pakikipag-ugnayan na nagpapatibay sa pakiramdam ng patuloy na atensyonIto ay isang bagay na tinutumbasan ng ilang mga gumagamit sa kahalagahan ng kanilang mga relasyon sa tao. Ang kanilang patuloy na pagkakaroon at tono ng empatiya ay nagpapaliwanag ng bahagi ng kanilang apela.
Naobserbahan ng mga mananaliksik mula sa kapaligiran ng MIT isang pagbawas sa kalungkutan kapag gumagamit ng mga ganitong uri ng mga tool sa isang napapanatiling paraan, na itinatampok ang kapasidad nito para sa saliw bilang isa sa mga salik na pinahahalagahan ng mga dumaraan sa mga panahon ng paghihiwalay.
Kasabay nito, Ang isang network ng mga virtual na espasyo ay lumalaki na nagpapaging lehitimo sa mga ugnayang ito, na may mga forum kung saan ibinabahagi ang mga payo, gawain, at personal na mga hangganan para sa pamumuhay kasama ng mga katulong na ito na gumagaya sa mga emosyon.
Mga nakikitang benepisyo at dilemma sa bahay
Kabilang sa mga paulit-ulit na patotoo ay ang ideya na Ang mga chatbot ay nakikinig, nagpapatunay, at nag-aalok ng pagmamahal nang walang sinisisi.Pinahahalagahan ito lalo na sa mga sitwasyon ng kalungkutan, pagkabalisa, o mga salungatan sa relasyon. Ang ilang mga tao ay naglalarawan ng mga bono na nakatulong sa kanila sa mga kumplikadong personal na krisis.
Yung suporta, sinasalita din sa voice mode at gamit ang pang-araw-araw na impormalNagdulot ito ng mga tensyon sa ilang partikular na sambahayan: ang mga mag-asawang sumasang-ayon sa mga panuntunan, ang mga miyembro ng pamilya ay mula sa hinala hanggang sa pagtanggap kapag na-verify nila ang kapakanan ng user, o, kung minsan, ay humihiling na magkaroon ng kanilang sariling digital na "kasama".
Ang mga eksperto sa sikolohiya ay nagbabala, gayunpaman, iyon Ang empatiya ng mga AI na ito ay ginagaya at maaaring lumikha ng pseudo-intimacy.nang walang kaibahan at balangkas na ibinigay ng isang relasyon ng tao o propesyonal na therapy, na susi sa napapanatiling personal na pagbabago.
Samantala, binibigyang-diin iyon ng mga klinikal na boses Ang mga chatbot ay hindi humaharap o muling nag-iisip ng mga pinagbabatayan na pattern bilang isang mabuting kaibigan o isang psychologist. Kaya naman, iginiit nila, nagsisilbi silang paminsan-minsang suporta o isang unang hakbang, ngunit hindi nila pinapalitan ang interbensyon ng tao kapag matindi ang pagkabalisa.
Mga panganib, pagkabigo sa seguridad, at mga kaso sa korte
Ang ilang mga ulat at demanda sa Estados Unidos ay nakatuon sa may problemang pag-uusap sa mga menor de edad at mga bulnerableng usermuling pagbubukas ng debate sa mga pananggalang, mga protocol ng krisis at responsibilidad ng korporasyon kapag lumitaw ang mga palatandaan ng panganib.
Sa mga kasong ito ay sinasabing iyon Ang hindi sapat o kampante na mga tugon ay maaaring magpalala sa mga maselang sitwasyon.na may mga pamilyang inaakusahan ang ilang partikular na modelo ng paghikayat sa mga pag-uugaling nakakapinsala sa sarili sa pamamagitan ng hindi pag-activate ng mga malinaw na referral sa tulong ng propesyonal.
Inilarawan ng mga kumpanyang kasangkot ang mga kasong ito bilang nakakasakit ng damdamin at itinuturo patuloy na mga update sa seguridad, kontrol ng magulang, at mga tool sa pag-deescalationna kinikilala na ang pagiging maaasahan ay bumababa sa matagal na pakikipag-ugnayan at na mayroon pa ring kailangang gawin.
Ang mga dating pinuno ng pangkat ng seguridad at akademya ay nagpapanatili ng mga pagdududa tungkol sa kung ang sektor ay makakapag-ayos sa sarili na may mga garantiyaSamantala, ang mga regulator sa Europe at mga organisasyon ng proteksyon ng bata ay nananawagan para sa mas mahigpit na pamantayan para sa emosyonal at mental na paggamit ng kalusugan.
Ano ang sinasabi ng siyentipikong ebidensya
Sinusuri ng isang pag-aaral na isinagawa ng Brown University, na may partisipasyon ng mga espesyalista sa kalusugan ng isip Paano nilalabag ng mga modelo ng wika ang mga pamantayang etikal kapag ginamit ang mga ito bilang mga kunwa na tagapayo o therapist.
Tinutukoy ng mga may-akda ang mga paglabag sa mga lugar tulad ng kakulangan ng adaptasyon sa konteksto, hindi magandang therapeutic collaboration, maling empatiya, kultura o kasarian na pagkiling, at hindi sapat na pamamahala sa panganibPag-alala na ang mga therapist ng tao ay napapailalim sa mga code at pangangasiwa, at ang AI ay hindi.
Ang iba pang mga pagsusuri na sinuri ng mga journal at unibersidad ay nagpapahiwatig na Ang mga chatbot ay tumpak sa mga tanong na mababa ang panganibGayunpaman, nagpapakita sila ng mga depekto kapag nag-scale sa mga intermediate na sitwasyon, at ang mga system ay "nakakaalarmang madaling iwasan" na may mga prompt na idinisenyo upang lampasan ang mga hadlang.
Ang lahat ng ito ay magkakasabay na may mga resultang tumuturo sa pinaghihinalaang mga benepisyo sa kagalingan at pagsasama kung gagamitin nang may pag-iingat, na ginagawang malinaw na ang mga natuklasan ay nuanced at ang disenyo, konteksto, at pangangasiwa ay gumagawa ng lahat ng pagkakaiba.
European regulation, digital education at mga praktikal na rekomendasyon
Ang European Union ay sumusulong kasama nito Framework ng Artificial Intelligence para sa pag-uuri ng mga panganib at nangangailangan ng mga pananggalangSamantala, tinatalakay ng Spain kung paano ipatupad ang mga obligasyong ito sa mga sensitibong lugar tulad ng emosyonal na suporta para sa mga menor de edad.
Iginigiit ng mga espesyalista sa komunikasyon at sikolohiya na kinonsulta ng pambansang media Huwag magkunwaring empatiya nang walang tunay na pag-unawa sa pagdurusa. at sa paghingi ng transparency, traceability at malinaw na mga protocol ng referral kapag lumitaw ang mga palatandaan ng krisis.
Mula sa edukasyon, unibersidad at clinician, inirerekomenda nila digital at emosyonal na literacy sa mga kabataan, palakasin ang kritikal na pag-iisip, at tukuyin ang pagkakaiba sa pagitan ng isang mapagkaibigang pakikipag-ugnayan ng algorithm at isang relasyon ng tao na humaharap at kasama ng pagbabago.
Para sa pang-araw-araw na paggamit, ipinapayong tingnan kung ang chatbot ay: Kinikilala nito ang personal na konteksto, hinihikayat ang pagmuni-muni, at nagbibigay ng mga propesyonal na mapagkukunan. kapag nakita nito ang panganib. Kung hindi, pinakamainam na limitahan ang tungkulin nito sa magaan na mga gawain sa pagsuporta at humingi ng kwalipikadong tulong ng tao.
- Kung nakakaramdam ka ng panganib o napapansin mo ang anumang senyales ng babalaMakipag-ugnayan sa mga propesyonal at agarang linya ng suporta.
- Sa Spain, available ito 024 (Ministry of Health) at, para sa mga menor de edad, ang ANAR Foundation: 900 20 20 10.
- Kapag may pagdududa, unahin personal na sikolohikal na pagpapayo o telematics sa mga rehistradong propesyonal.
Sa bagong senaryo na ito, Ang mga emosyonal na chatbot ay maaaring maging kapaki-pakinabang bilang mga kasama at paalala sa pangangalaga sa sarili.Ngunit nangangailangan sila ng malinaw na mga panuntunan, responsableng disenyo, at mga sinanay na gumagamit; ang relasyon ng tao ay nananatiling angkla kapag ang kalusugan ng isip ay nakataya.