ИИ научился распознавать токсичные комментарии в соцсетях

ИИ научился распознавать токсичные комментарии в соцсетях

Ученые из Австралии и Бангладеш представили новую модель машинного обучения, способную выявлять токсичные комментарии в социальных сетях с точностью 87%. Технология может помочь сократить уровень кибербуллинга и ненависти в интернете. Исследование было представлено на Международной конференции по инновациям и интеллектуальным технологиям 2024 года. Разработчики уверены, что их алгоритм превосходит существующие системы, многие из которых часто ошибаются и помечают безобидные сообщения как вредоносные. По словам ведущего автора исследования Афии Ахсан, рост числа агрессивных комментариев в интернете приводит к серьезным психологическим последствиям, включая тревожность, депрессию и даже самоубийства. Несмотря на усилия социальных платформ по ограничению токсичного контента, проверка вручную невозможна из-за огромного количества пользователей. Команда протестировала три алгоритма машинного обучения на комментариях на английском и бенгальском языках, собранных из разных соцсетей. Оптимизированная версия модели показала наивысшую точность — 87,6%, опередив другие алгоритмы с результатами 69,9% и 83,4%. Разработчики планируют улучшить модель с помощью нейросетей и добавить поддержку большего количества языков. Ведутся переговоры с социальными платформами о внедрении технологии для автоматической фильтрации комментариев....
05.03.2025
Сообщает: Источник  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

ИИ научился распознавать эмоции собак по их лаюИИ научился распознавать эмоции собак по их лаю Исследователи из Мичиганского университета (США) разработали искусственный интеллект, способный распознавать эмоции собак по их лаю. Как сообщают учё ...

Смолянка засудила подругу за оскорбительные комментарии о ней в соцсетяхСмолянка засудила подругу за оскорбительные комментарии о ней в соцсетях Женщина посчитала, что данные сообщения испортили ее репутацию Сообщение Смолянка засудила подругу за оскорбительные комментарии о ней в соцсетях поя ...

В Кремле оценили комментарии в соцсетях о новых санкциях США против РоссииВ Кремле оценили комментарии в соцсетях о новых санкциях США против России Пресс-секретарь президента России Дмитрий Песков прокомментировал реакцию пользователей социальных сетей на очередные санкции США в отношении России. ...

Скопинцев о хейтерах в соцсетях: Нам пофиг на комментарии. Все ли из тех, кто их пишет, сами состоялись по жизниСкопинцев о хейтерах в соцсетях: «Нам пофиг на комментарии. Все ли из тех, кто их пишет, сами состоялись по жизни?» – Ваш одноклубник Игорь Лещук хочет исправить стереотип, что футболисты тупые. – Такой стереотип в целом есть среди спортсменов – они всю жизнь в одн ...

Трушечкин о хейте: Комментарии оскорбительные для меня очень болезненны. Журавель толстокожий в этом плане, комментарии под его постами меня эмоционаТрушечкин о хейте: «Комментарии оскорбительные для меня очень болезненны. Журавель толстокожий в этом плане, комментарии под его постами меня эмоционально уничтожили бы» – Вы после матча «Спартак» – «Зенит» опубликовали у себя в телеграм-канале две полярные реакции людей на вашу работу. ...

Токсичные миллиарды иркутского Сибстальстроя«Токсичные» миллиарды иркутского «Сибстальстроя» Команда губернатора Кобзева снабжает контрактами фирму, срывающую строительство соцобъектовСкандально известная компания «Сибстальстрой» получила кон ...

В китайских шинах нашли токсичные веществаВ китайских шинах нашли токсичные вещества Роскачество провело исследование автомобильных шин и обнаружило превышение опасных канцерогенных веществ в китайской продукции. Все испытанные россий ...

Канцерогены, мутагены, токсичные вещества и кишечную палочку нашли в приправахКанцерогены, мутагены, токсичные вещества и кишечную палочку нашли в приправах Опасные «ингредиенты» были обнаружены почти в половине специй на полках российских магазинов. Результаты Национального союза защиты прав потребителей ...