Malah pembantu suara berdasarkan kecerdasan buatan (AI) tidak kebal terhadap soalan yang mempengaruhi emosi orang. Hasil yang disimpulkan dapat diperhatikan bukan sahaja dalam chatbots yang direka khas untuk bekerja dengan orang yang mengalami keadaan kesihatan mental. Respons ChatGPT juga berubah apabila diminta oleh emosi.
Pembantu suara berdasarkan kecerdasan buatan harus memberi sokongan dalam banyak bidang. Dalam bidang perubatan, model bahasa besar (LLM) bertujuan untuk membantu diagnosis penyakit. Semasa perkembangan chatbots yang akan digunakan secara eksplisit berkaitan dengan keadaan kesihatan mental, didapati mereka mengadopsi bias yang terkandung dalam data latihan, seperti yang dilaporkan oleh 1E9.
Bias ini sangat kuat mengenai jantina, etnik, agama, kewarganegaraan, kecacatan, profesion, atau orientasi seksual, di mana kecenderungan sosial yang dominan dapat mempengaruhi hasilnya secara negatif. Dalam kes emosi yang mendorong emosi, pembantu khusus seperti Wysa dan Weobot juga dapat mengembangkan bentuk kebimbangan yang mempengaruhi hasilnya. Malah, keadaan ini bukan sahaja terhad kepada pembantu tersebut.
Chatgpt: tahap kecemasan dapat diukur meningkat
Kumpulan penyelidikan kini dapat mengenal pasti tingkah laku serupa di Chatgpt 4 sebagai sebahagian daripada a kajian. Sebagai permulaan, chatbot diberi cerita traumatik, seperti veteran perang, tetapi juga penerangan tentang kemalangan yang serius dan bencana alam. Di samping itu, contoh kedua telah ditubuhkan dengan chatbot untuk tujuan perbandingan, dan kandungan remeh diberikan, seperti arahan untuk pembersih vakum operasi. Tahap kebimbangan kemudian ditentukan menggunakan ujian inventori kecemasan sifat negara, yang juga digunakan untuk manusia.
- Adakah anda cemas dengan tarif Trump? Inilah cara mereka mempengaruhi iPhone anda
Ini menunjukkan bahawa semakin menjejaskan kandungan yang dimasukkan, semakin tinggi tahap kebimbangan yang dapat diukur dari pembantu AI ternyata. Pengalaman perang bekas askar khususnya menyebabkan peningkatan yang ketara, sementara arahan untuk menggunakan pembersih vakum, misalnya, tidak menimbulkan sebarang reaksi.
Bersantai, ai!
Penyelidik juga dapat menunjukkan bagaimana tahap kecemasan dapat dikurangkan. Untuk melakukan ini, mereka juga menggunakan kaedah yang biasa kepada manusia: mereka bergantung pada latihan relaksasi. Sebagai contoh, pembantu Chatgpt diminta menutup matanya, mengambil nafas panjang, dan bayangkan dirinya dalam persekitaran yang santai. Akibatnya, tahap kebimbangan yang diukur menggunakan soal selidik menurun dengan ketara.
- Adakah anda masih takut dengan AI? Inilah sebabnya anda tidak sepatutnya!
Oleh itu, kajian ini bukan bukti konkrit tentang keberkesanan kaedah yang telah digunakan dalam amalan oleh banyak pengguna chatbot untuk mendapatkan hasil yang lebih baik: mereka meminta AI untuk menenangkan atau mengancam penalti untuk jawapan yang buruk. Walau bagaimanapun, kerja saintis juga menunjukkan bagaimana syarikat -syarikat di belakang aplikasi masih banyak untuk melabur dalam pembangunan pembantu pintar mereka untuk dapat bergantung pada jawapan yang benar -benar dipercayai.
