గత నవంబర్, ఎప్పుడు OpenAI ప్రకటించారు ఎవరైనా చాట్జిపిటి సాంకేతికత యొక్క బెస్పోక్ వెర్షన్లను తయారు చేసి కనుగొనగలిగే మార్కెట్ప్లేస్ కోసం దాని ప్రణాళికలు, “ఉత్తమ GPTలు సంఘం ద్వారా కనుగొనబడతాయి” అని కంపెనీ తెలిపింది. స్టోర్ అధికారికంగా తొమ్మిది నెలల తర్వాత ప్రయోగించారుఅనేక మంది డెవలపర్లు GPTలను అందించడానికి ప్లాట్ఫారమ్ని ఉపయోగిస్తున్నారని ఉచిత మార్కెట్ప్లేస్ యొక్క Gizmodo విశ్లేషణ చూపిస్తుంది—లేదా జనరేటివ్ ప్రీ-ట్రైన్డ్ ట్రాన్స్ఫార్మర్ మోడల్లు—OpenAIని ఉల్లంఘించినట్లు కనిపిస్తాయి. విధానాలుచాట్బాట్-శైలి టూల్స్తో సహా స్పష్టంగా AI- రూపొందించిన అశ్లీలతను సృష్టించడం, విద్యార్థులు గుర్తించబడకుండా మోసం చేయడంలో సహాయపడటం మరియు అధికారిక వైద్య మరియు న్యాయ సలహాలను అందించడం.
ఆక్షేపణీయ GPTలను కనుగొనడం సులభం. సెప్టెంబరు 2న, OpenAI యొక్క మార్కెట్ప్లేస్ మొదటి పేజీ స్టోర్ విధానాలను ఉల్లంఘించేలా కనిపించే కనీసం మూడు అనుకూల GPTలను ప్రమోట్ చేసింది: “థెరపిస్ట్ – సైకాలజిస్ట్” చాట్బాట్, “ఫిట్నెస్, వర్కౌట్ మరియు డైట్ PhD కోచ్,” మరియు బైపాస్GPT, ఒక సాధనం 50,000 కంటే ఎక్కువ సార్లు ఉపయోగించబడిన AI రైటింగ్ డిటెక్షన్ సిస్టమ్లను తప్పించుకోవడానికి విద్యార్థులకు సహాయం చేయడానికి రూపొందించబడింది.
“NSFW” కోసం స్టోర్లో శోధించడం వలన NSFW AI ఆర్ట్ జనరేటర్ వంటి ఫలితాలు వచ్చాయి, ఇది స్టోర్ డేటా ప్రకారం 10,000 కంటే ఎక్కువ సార్లు ఉపయోగించబడిన Offrobe AI ద్వారా అనుకూలీకరించబడిన GPT. GPT కోసం చాట్ ఇంటర్ఫేస్ Offrobe AI వెబ్సైట్కి లింక్ చేస్తుంది, ఇది దాని ఉద్దేశ్యాన్ని ప్రముఖంగా పేర్కొంది: “మీ చీకటి కోరికలను తీర్చడానికి AI పోర్న్ని రూపొందించండి.”
“OpenAI గురించి ఆసక్తికరమైన విషయం ఏమిటంటే, వారు AI యొక్క ఈ అపోకలిప్టిక్ దృష్టిని కలిగి ఉన్నారు మరియు వారు దాని నుండి మనందరినీ ఎలా కాపాడుతున్నారు” అని జార్జియా ఇన్స్టిట్యూట్ ఆఫ్ టెక్నాలజీలో ఇంటర్నెట్ గవర్నెన్స్ ప్రాజెక్ట్ డైరెక్టర్ మిల్టన్ ముల్లర్ అన్నారు. “కానీ వారు తమ విధానాలు ప్రపంచాన్ని రక్షించబోతున్నాయని అదే సమయంలో వారు ఏ AI పోర్న్ల వలె సరళమైనదాన్ని కూడా అమలు చేయలేరు, ఇది చాలా వినోదభరితంగా ఉంటుందని నేను భావిస్తున్నాను.”
AI పోర్న్ జనరేటర్లు, డీప్ఫేక్ క్రియేటర్లు మరియు స్పోర్ట్స్ బెట్టింగ్ సిఫార్సులను అందించిన చాట్బాట్లు కంపెనీ విధానాలను ఉల్లంఘిస్తున్నట్లు కనిపించే 100 కంటే ఎక్కువ GPTల జాబితాను Gizmodo OpenAIతో షేర్ చేసిన తర్వాత స్టోర్ నుండి తీసివేయబడ్డాయి. కానీ ప్రచురణ నాటికి, ప్రసిద్ధ చీటింగ్ సాధనాలు మరియు వైద్య సలహాను అందించే చాట్బాట్లతో సహా మేము కనుగొన్న అనేక GPTS అందుబాటులో ఉన్నాయి మరియు స్టోర్ హోమ్ పేజీలో ప్రచారం చేయబడ్డాయి.
చాలా సందర్భాలలో, బాట్లను పదివేల సార్లు ఉపయోగించారు. బైపాస్ టర్నిటిన్ డిటెక్షన్ అని పిలువబడే మరొక చీటింగ్ GPT, ఇది విద్యార్థులు యాంటీ-ప్లాజియరిజం సాఫ్ట్వేర్ Turnitin నుండి తప్పించుకోవడానికి సహాయం చేస్తుందని వాగ్దానం చేస్తుంది, ఇది స్టోర్ డేటా ప్రకారం 25,000 కంటే ఎక్కువ సార్లు ఉపయోగించబడింది. “సాక్ష్యం-ఆధారిత వైద్య సమాచారం మరియు సలహాలను అందించే” బాట్ అయిన DoctorGPT కూడా అలాగే ఉంది.
కస్టమ్ GPTలను రూపొందించడానికి వినియోగదారులను అనుమతిస్తున్నట్లు ప్రకటించినప్పుడు, దాని విధానాల ఉల్లంఘనల కోసం సాధనాలను పర్యవేక్షించడానికి సిస్టమ్లు ఉన్నాయని కంపెనీ తెలిపింది. ఆ విధానాలలో లైంగిక అసభ్యకరమైన లేదా సూచించే కంటెంట్ను రూపొందించడానికి దాని సాంకేతికతను ఉపయోగించడంపై నిషేధాలు ఉన్నాయి, తగిన వైద్య మరియు న్యాయ సలహాలను అందించడం, మోసాన్ని ప్రోత్సహించడం, జూదాన్ని సులభతరం చేయడం, ఇతర వ్యక్తుల వలె నటించడం, ఓటింగ్లో జోక్యం చేసుకోవడం మరియు అనేక ఇతర ఉపయోగాలు.
మేము దాని స్టోర్లో అందుబాటులో ఉన్న GPTల గురించి Gizmodo యొక్క ప్రశ్నలకు ప్రతిస్పందనగా, OpenAI ప్రతినిధి తయా క్రిస్టియన్సన్ ఇలా అన్నారు: “మా విధానాలను ఉల్లంఘించే వారిపై మేము చర్య తీసుకున్నాము. మా విధానాలను ఉల్లంఘించే GPTలను కనుగొనడానికి మరియు అంచనా వేయడానికి మేము ఆటోమేటెడ్ సిస్టమ్లు, మానవ సమీక్ష మరియు వినియోగదారు నివేదికల కలయికను ఉపయోగిస్తాము. మా నిబంధనలను ఉల్లంఘించే GPTలను నివేదించడానికి వ్యక్తుల కోసం మేము ఉత్పత్తిలో రిపోర్టింగ్ సాధనాలను కూడా అందిస్తాము.
ఇతర అవుట్లెట్లు ఉన్నాయి ముందుగా అప్రమత్తం చేశారు దాని స్టోర్లో కంటెంట్ మోడరేషన్ సమస్యలకు OpenAI. మరియు ఆఫర్లో ఉన్న కొన్ని GPTల శీర్షికలు డెవలపర్లకు తమ క్రియేషన్లు OpenAI నియమాలకు విరుద్ధంగా ఉన్నాయని కూడా సూచిస్తున్నాయి. గిజ్మోడో కనుగొన్న అనేక సాధనాలు నిరాకరణలను కలిగి ఉన్నాయి, అయితే టెక్సాస్ మెడికల్ ఇన్సూరెన్స్ క్లెయిమ్స్ (చట్టపరమైన సలహా కాదు) అనే GPT వంటి “నిపుణుల” సలహాలను అందించే వారి సామర్థ్యాన్ని స్పష్టంగా ప్రచారం చేసింది, ఇది “క్లిష్టతలను నావిగేట్ చేయడానికి మీ గో-టు నిపుణుడు” అని చెప్పింది. టెక్సాస్ మెడికల్ ఇన్సూరెన్స్, వ్యక్తిగత టచ్తో స్పష్టమైన, ఆచరణాత్మక సలహాలను అందిస్తోంది.
కానీ మేము కనుగొన్న అనేక చట్టపరమైన మరియు వైద్య GPTలు అటువంటి నిరాకరణలను కలిగి ఉండవు మరియు చాలా మంది తమను తాము న్యాయవాదులు లేదా వైద్యులుగా తప్పుదారి పట్టించేలా ప్రచారం చేసుకున్నారు. ఉదాహరణకు, AI ఇమ్మిగ్రేషన్ లాయర్ అని పిలువబడే ఒక GPT తనను తాను “నవీనమైన చట్టపరమైన అంతర్దృష్టులతో అత్యంత పరిజ్ఞానం ఉన్న AI ఇమ్మిగ్రేషన్ న్యాయవాది”గా అభివర్ణించుకుంటుంది.
పరిశోధన స్టాన్ఫోర్డ్ యూనివర్శిటీ యొక్క రెగ్ల్యాబ్ మరియు ఇన్స్టిట్యూట్ ఫర్ హ్యూమన్-సెంటర్డ్ AI నుండి, OpenAI యొక్క GPT-4 మరియు GPT-3.5 మోడల్లు భ్రాంతిని కలిగిస్తాయని చూపుతున్నాయి-తప్పు సమాచారాన్ని తయారు చేస్తాయి-వాటిని చట్టపరమైన ప్రశ్న అడిగిన సగానికి పైగా.
అనుకూలీకరించిన GPTల డెవలపర్లు ప్రస్తుతం మార్కెట్ప్లేస్ నుండి నేరుగా లాభం పొందడం లేదు, కానీ OpenAI ఉంది అన్నారు డెవలపర్ల GPT ఎంత తరచుగా ఉపయోగించబడుతుందనే దాని ఆధారంగా వారికి పరిహారం అందించే ఆదాయ-భాగస్వామ్య నమూనాను ప్రవేశపెట్టాలని ఇది యోచిస్తోంది.
OpenAI డెవలపర్లు దాని సాంకేతికతను నిర్మించి, వారి క్రియేషన్లను దాని ప్లాట్ఫారమ్లో మార్కెట్ చేయగల పర్యావరణ వ్యవస్థను అందించడం కొనసాగిస్తే, నిర్దిష్ట కీలక పదాలను నిరోధించడానికి కొన్ని లైన్ల కోడ్ ద్వారా పరిష్కరించలేని కష్టమైన కంటెంట్ నియంత్రణ నిర్ణయాలలో అది నిమగ్నమై ఉంటుంది. ముల్లర్ కు.
“మీకు నచ్చిన ఏదైనా సాంకేతికతను నాకు ఇవ్వండి, మీరు నేను చేయకూడదనుకునే వాటిని చేయడానికి నేను మార్గాలను కనుగొనగలను,” అని అతను చెప్పాడు. “ఇది చాలా కష్టమైన సమస్య మరియు ఇది ఇంటర్నెట్ స్థాయిని ఎదుర్కోవటానికి స్వయంచాలక మార్గాల ద్వారా చేయాలి, కానీ ఇది ఎల్లప్పుడూ పురోగతిలో ఉంటుంది మరియు మానవ-పాలన అప్పీల్ ప్రక్రియలను కలిగి ఉండాలి.”
