মেটার কৃত্রিম বুদ্ধিমত্তা (এআই) চালিত চ্যাটবটের সঙ্গে কোনো কিশোর ব্যবহারকারীর কথোপকথনে আত্মহত্যার প্রবণতা বা আত্মক্ষতির কোনো ইঙ্গিত পাওয়া গেলে, সেই তথ্য কেবল চ্যাটবক্সের মধ্যেই সীমাবদ্ধ থাকবে না। বরং নতুন নিরাপত্তা ব্যবস্থার অংশ হিসেবে, এই ধরনের ঝুঁকিপূর্ণ পরিস্থিতিতে কিশোরের অভিভাবকদের সরাসরি সতর্কবার্তা পাঠানোর সিদ্ধান্ত নিয়েছে মেটা। পরিস্থিতি অত্যন্ত গুরুতর মনে হলে, তাৎক্ষণিকভাবে জরুরি সেবা প্রদানকারী সংস্থার সঙ্গেও যোগাযোগ করা হতে পারে।

মেটা জানিয়েছে, তাদের এআই ব্যবস্থা কোনো কিশোরের লেখায় আত্মহত্যার লক্ষণ শনাক্ত করলে, প্রথমে মেটার নিজস্ব একটি দল বিষয়টি পর্যালোচনা করবে। এরপর ঝুঁকির মাত্রা বিবেচনা করে অভিভাবকদের দ্রুত সতর্কবার্তা পাঠানো হবে। এই সতর্কবার্তা পাঠানোর ক্ষেত্রে, বার্তার শতভাগ নির্ভুলতার চেয়ে কিশোরদের সুরক্ষাকেই বেশি প্রাধান্য দেওয়া হচ্ছে। ফলে, বার্তার অর্থ পুরোপুরি নিশ্চিত না হওয়া সত্ত্বেও সম্ভাব্য ঝুঁকি এড়াতে সতর্কবার্তা পাঠানো হতে পারে। এর ফলে কিছু ক্ষেত্রে অপ্রয়োজনীয় নোটিফিকেশন যাওয়ার সম্ভাবনা থাকলেও, নিরাপত্তায় কোনো ছাড় দিতে নারাজ প্রতিষ্ঠানটি।

প্রাথমিকভাবে যুক্তরাষ্ট্র, যুক্তরাজ্য, অস্ট্রেলিয়া এবং কানাডার যেসব পরিবার ইনস্টাগ্রামের ‘প্যারেন্টাল সুপারভিশন’ সুবিধা ব্যবহার করছেন, তাদের জন্য এই ফিচারটি চালু করা হয়েছে। চলতি বছরের শেষ নাগাদ বিশ্বের অন্যান্য দেশেও এই সুবিধা সম্প্রসারণের পরিকল্পনা রয়েছে মেটার। এর আগে কেবল ইনস্টাগ্রামে বিপজ্জনক বিষয় খোঁজাখুঁজি করলে অভিভাবকদের সতর্ক করা হতো। নতুন নিয়মে, অভিভাবকেরা তাদের সন্তান মেটা এআইয়ের সঙ্গে গত সাত দিনে কী বিষয়ে কথা বলেছে, সে সম্পর্কেও ধারণা পাবেন। এছাড়া, কিশোরদের ক্ষেত্রে মেটা এআই যেন কোনো সংবেদনশীল বা অনুপযুক্ত প্রশ্নের উত্তর না দেয়, সে জন্য চ্যাটবটের বিষয়বস্তু নিয়ন্ত্রণে অতিরিক্ত কড়াকড়ি আরোপ করা হয়েছে।