ఇటీవల కాలంలో చాట్జీపీటీ వినియోగించే వారి సంఖ్య భారీగా పెరిగింది. కానీ దీనిలో ఏది పడితే అది టైప్ చేస్తే మాత్రం చర్యలు తప్పవని హెచ్చరిస్తున్నారు నిపుణులు.
ఎందుకంటే ఇటీవల చాట్జీపీటీ చెప్పిందని పలువురు హత్యలు చేసిన ఘటనలు వెలుగులోకి వచ్చాయి. దీంతో అప్రమత్తమైన సంస్థ చర్యలకు సిద్ధమైంది. మీరు టైప్ చేసే మాటలు ఎవరికైనా తీవ్రమైన హాని కలిగించేలా ఉంటే, చాట్జీపీటీ వెంటనే మానిటర్ చేసి పోలీసులకు సమాచారాన్ని అందిస్తుంది. ఓపెన్ఏఐ ఈ విషయంలో కొత్త రూల్స్ (ChatGPT Safety) విడుదల చేసింది.
ఇతరులకు హాని
చాట్జీపీటీ అంటే ఒక ఫ్రెండ్లా మనతో మాట్లాడుతుంది, మన బాధల్ని అర్థం చేసుకుంటుంది. ఒకవేళ మీరు సెల్ఫ్ హామ్ గురించి అడిగితే, అంటే మీకు మీరే హాని చేసుకోవాలని అనిపిస్తే, చాట్జీపీటీ వెంటనే మిమ్మల్ని ప్రొఫెషనల్ హెల్ప్కి గైడ్ చేస్తుంది. ఉదాహరణకు యూఎస్లో 988 లేదా యూకేలో సమరిటన్స్ లాంటి హెల్ప్లైన్ నంబర్స్ సజెస్ట్ చేస్తుంది. ఈ కేసుల్లో మీ ప్రైవసీని కాపాడటానికి పోలీసులకు ఇన్ఫర్మేషన్ పంపదు.
కానీ, మీరు ఎవరినైనా హాని చేయాలని రాస్తే, అక్కడ విషయం సీరియస్ అవుతుంది. అలాంటి చాట్లను స్పెషల్ టీమ్ రివ్యూ చేస్తుంది. ఒకవేళ మీరు నిజంగా ఎవరికైనా డేంజర్ చేయాలని చూస్తే, ఓపెన్ఏఐ పోలీసులకు సమాచారం ఇస్తుంది. అంతేకాదు, మీ అకౌంట్ని కూడా బ్యాన్ చేసే ఛాన్సుంది. సో, ఇకపై చాట్ జీపీటీ విషయంలో కూడా జాగ్రత్తగా ఉండి, ఏది పడితే అది టైప్ చేసి అడగకండి.
లాంగ్ చాట్లలో లోపాలు?
ఓపెన్ఏఐ ఒక విషయం ఒప్పుకుంది. చిన్న చాట్లలో వాళ్ల సేఫ్టీ సిస్టమ్ బాగా పనిచేస్తుంది. కానీ గంటల తరబడి లేదా రిపీటెడ్గా చాట్ చేస్తే, సేఫ్టీ ఫీచర్స్ కాస్త తడబడొచ్చు. దీని వల్ల కొన్ని సేఫ్టీ రూల్స్కి విరుద్ధమైన రెస్పాన్స్లు వచ్చే ఛాన్స్ ఉంది. అందుకే, ఈ లోపాల్ని సరిచేసే పనిలో ఉన్నారు. ఎన్ని గంటలు చాట్ చేసినా సేఫ్టీ ఫీచర్స్ స్ట్రాంగ్గా ఉండేలా ప్లాన్ చేస్తున్నారు.
ఇంకా ఏం చేస్తున్నారు?
చాట్జీపీటీ వాడకంలో రిస్కీ బిహేవియర్ని ముందే గుర్తించేందుకు కొత్త ఫీచర్స్ తీసుకొస్తున్నారు. ఉదాహరణకు ఎవరైనా ఎక్స్ట్రీమ్ స్లీప్ డెప్రివేషన్ గురించి మాట్లాడితే లేదా డేంజరస్ స్టంట్స్ చేయాలనుకుంటే, వాళ్లని రియాలిటీకి తీసుకొచ్చి, ప్రొఫెషనల్ హెల్ప్కి గైడ్ చేస్తారు. టీనేజర్ల కోసం పేరెంటల్ కంట్రోల్స్, ట్రస్టెడ్ కాంటాక్ట్స్తో కనెక్ట్ చేసే ఫీచర్స్, లైసెన్స్డ్ థెరపిస్ట్లతో లింక్ చేసే ఆప్షన్స్ కూడా ప్లాన్ చేస్తున్నారు.
ఓపెన్ఏఐ క్లియర్గా చెప్పింది. చాట్జీపీటీలో మీ చాట్లు పూర్తిగా ప్రైవేట్ కాదు. ఎవరికైనా హాని కలిగించేలా మీ మెసేజ్లు ఉంటే, అవి ట్రైన్డ్ మాడరేటర్లకు వెళ్తాయి. అక్కడ నుంచి పోలీసులకు కూడా వెళ్లొచ్చు.
