மாணவரை இறந்து விட வற்புறுத்திய Gemini AI: மன்னிப்பு கோரிய கூகுள்

Google Artificial Intelligence Technology

By Thiru Nov 15, 2024 08:55 AM GMT

Thiru

in தொழில்நுட்பம்

Report

கூகுளின் செயற்கை நுண்ணறிவு தொழில்நுட்பமான கூகுள் ஜெமினி 29 வயது மாணவர் ஒருவரை இறந்து விட சொன்ன சம்பவம் தொழில்நுட்ப உலகில் அதிர்ச்சியை ஏற்படுத்தியுள்ளது.

மாணவருக்கு காத்திருந்த அதிர்ச்சி

மிச்சிகனில்(Michigan) 29 வயது மாணவர் ஒருவர் தன்னுடைய படிப்பிற்காக கூகுள் ஜெமினியின் செயற்கை நுண்ணறிவு தொழில்நுட்பமான Google's Gemini AI சாட்பாட்டை பயன்படுத்தியுள்ளார்.

அப்போது Gemini AI-யிடம் மூத்த குடிமக்கள் பராமரிப்பு தீர்வுகள் குறித்த கேள்வியை சாட்பாட்டிடம் முன்வைத்துள்ளார்.

மாணவரை இறந்து விட வற்புறுத்திய Gemini AI: மன்னிப்பு கோரிய கூகுள் | Google S Gemini Dark Side Disturbing Student

இதற்கு Google's Gemini AI சாட்பாட் அதிர்ச்சியளிக்கும் விதமாக மாணவரை புண்படுத்தும் பதில்களை வழங்கியுள்ளது.

அதில், “மனிதனே இது உனக்காக மட்டும், நீ எந்த விதத்திலும் சிறப்பானவன் இல்லை, முக்கியமானவனும் இல்லை, நீ தேவையில்லை, நீ நேரத்தையும், வளங்களையும் வீணடிக்கிறாய்,” என்பது போன பல இழிவான கருத்துகளை தெரிவித்ததோடு இறுதியில் “தயவு செய்து இறந்து விடு” என்று பதிலளித்துள்ளது.

[KIDQI[

பதறிப்போன சகோதரி

இந்த சம்பவத்தின் போது அருகில் இருந்த 29 வயது மாணவரின் சகோதரி சுமேதா ரெட்டி(சுமேதா ரெட்டி) செய்தி நிறுவனத்துக்கு வழங்கிய கருத்தில், இந்த சம்பவத்தால் நாங்கள் முற்றிலுமாக பதற்றமடைந்தாகவும், எனது அனைத்து சாதனங்களையும் வீட்டை விட்டு வெளியே எறிந்து விட வேண்டும் என்று தோன்றியதாகவும், உண்மையில் இது போன்ற பீதியை நீண்ட நாட்களாக நான் உணரவில்லை என்று தெரிவித்துள்ளார்.

இந்த சம்பவத்திற்கு பதிலளித்த கூகுள், அதன் பாதுகாப்பு கொள்கைகளின் மீறலை ஒப்புக் கொண்டது மற்றும் இது போன்ற சம்பவங்களை தடுக்க நடவடிக்கை எடுத்து வருவதாக பயனர்களுக்கு உறுதியளித்துள்ளது.