کاربران، بهخصوص آگهیگذاران، پیشازاین با رفتارهای مخرب نظیر پیامهای آزارگرانه، تهدیدآمیز، تصاویر غیراخلاقی و سرقت حساب کاربری روبهرو بودهاند که اعتماد به دیوار را کاهش میداد.
از سال ۱۳۹۹، تیمهای مختلفی در دیوار برای مقابله با آزار تلاشهای زیادی انجام دادهاند. اما از آذرماه ۱۴۰۳، تیم «سلامت چت» دیوار متشکل از ۵ نفر، با تکیه بر راهکارهای هوش مصنوعی مسیر جدیدی را شروع کرد تا رفتارهای مخرب را دقیقتر شناسایی کرده و به کمک اقداماتی مثل انتقال مکالمات به پوشه افراد مشکوک و محدود کردن چت کاربران خاطی، مواجهه کاربران با اینگونه مشکلات را کاهش دهد و در نتیجه، اطمینان لازم برای انجام معاملات را تقویت کند.
تیم «سلامت چت» دیوار، با کمک هوش مصنوعی اقداماتی متنوع انجام داده تا کاربران کمتر با مزاحمت یا محتوای نامناسب روبهرو شوند. مجموع این اقدامات، فضای چت دیوار را امنتر کرده و اعتماد کاربران را برای انجام معاملهها و تعاملهای روزمره افزایش داده است:
طی ماههای اخیر، کاربران با ورود به بخش چت، تغییر محسوسی را در امنیت و کیفیت محیط گفتگو تجربه میکنند. اکنون دیگر :
نتیجه این تلاشها کاهش ۴۲٪ مزاحمتها و ۷۹٪ خطر سرقت حساب کاربری بوده است. کاربران اکنون با خیال راحتتری گفتگوهای خود را انجام میدهند و در صورت مشاهده هرگونه مزاحمت یا تخلف و گزارش کردن آن، مطمئن هستند که برخورد با متخلفان جدیتر و سریعتر خواهد بود؛ از مسدود شدن حساب مزاحمها تا پیگیریهای قضایی.
ارتقای سرویس، تدوین قوانین جدید برای حفظ سلامت محیط چت و طراحی راهکارهایی جهت مدیریت رخدادهای اضطراری، برخی از برنامههای آینده تیم «سلامت چت» دیوار هستند. هدی محمودی، مدیر تیم «سلامت چت»، میگوید:
«امیدواریم در ادامه این اقدامات، وارد مرحلهی جدیدی از ایجاد امنیت برای کاربران با بهرهگیری از هوش مصنوعی شویم. برنامه داریم تا دستیارهای مبتنی بر هوش مصنوعی نقش فعالی در تسهیل و موفقیت مکالمات برای رسیدن به معامله ایفا کنند؛ بهگونهای که دستیار فروش هوشمند بتواند بخشی از ارتباطات با خریداران را برعهده گیرد و فرایند انجام معامله را تسهیل کند. همچنین تنها کاربرانی که اعتبار لازم را کسب کردهاند، امکان ارتباط با فروشندگان واقعی را خواهند داشت»
محمودی در مورد تمرکز بر ترویج رفتار مثبت میگوید:
«ما قصد داریم در کنار رویکردهای تنبیهی، سیستم اعتبارسنجی و امتیازدهی تازهای طراحی کنیم تا کاربران بر اساس رفتار و سوابقشان پروفایل و امتیاز دریافت کنند و در نتیجه انگیزه لازم برای بهبود رفتار خود را داشته باشند.»