В английской Википедии создали проект по борьбе с недостоверными порождениями искусственного интеллекта (Комментарии к новости)

Энциклопедист

Сообщений: 61 Авторитет: 75 Регистрация: 20.08.2024

0 /0

15.10.2024 23:22:43

Мы уже говорили о важности контроля за «порождениями искусственного интеллекта». Упомянутый проект борется с недостоверными порождениями. Из приведенных в статье примеров видно, с какой легкостью формируются участки параллельной реальности, и как трудно будет выявлять эти «фантомы». Мне в этой теме кажутся важными вопросы о том, через сколько этапов верификации должны пройти текст или изображение, и где в проверку должен включаться человек, чтобы результат мог быть признан достоверным? :?:

Александр Красногорский

Знаток

Сообщений: 4 Авторитет: 3 Регистрация: 28.09.2024

0 /0

18.10.2024 23:00:16

Эта история прекрасно показывает, почему нам по-прежнему нужны традиционные «авторизованные» энциклопедии — такие как «Британника» или БРЭ. Ведь сама проблема стала возможной благодаря тому, что пополнять Википедию может любой, а это означает отсутствие ответственности. В своё время такая свобода дала Википедии огромный импульс в развитии и сделала ее лидером по объему. В «народности» Википедии ее сила и в этом же оказалась ее слабость.

Лилия Тумина

Энциклопедист

Сообщений: 1442 Авторитет: 45 Регистрация: 02.07.2013

0 /0

19.10.2024 13:21:28

Цитата
Александр Красногорский написал: Ведь сама проблема стала возможной благодаря тому, что пополнять Википедию может любой, а это означает отсутствие ответственности.

Когда человек сам дополняет статьи Википедии или пишет новые, это ещё не проблема, ведь всегда найдутся люди, которые смогут исправить чужие глупости. А вот искусственный интеллект действительно способен стать проблемой: простые люди далеко не всегда могут написать для энциклопедии грамотный связный текст, состоящий из нескольких абзацев, зато ИИ его легко напишет. Вот прочитала я про ту самую упомянутую османскую крепость — а ведь отлично написано. И веришь, что всё это правда, что такая крепость есть. Но выясняется, что её на самом деле не существует. И ведь ИИ такую статью может написать за минуту, а простому человеку понадобилось бы несколько часов — он бы просто пожалел тратить время впустую. Вот и задумываешься ненароком: от ИИ больше пользы или вреда? :?:

Clemansae Dunuae

Энциклопедист

Сообщений: 210 Авторитет: 35 Регистрация: 13.04.2011

0 /0

07.11.2024 12:30:31

ИИ — уже часть нашей жизни. И нам ещё долго предстоит учиться отличать сгенерированные видео, картинки, тексты от реальных. На данной стадии развития цивилизации не очень хорошо, что при помощи ИИ создаются энциклопедические труды. В самой Википедии и без ИИ было много ляпов. Появление и существование сгенерированных статей и изображений может полностью лишить Википедию справочной и научной ценности. Хорошо, что хоть где-то об этом задумались.

Марина Павловская Энциклопедист Сообщений: 13 Авторитет: 36 Регистрация: 30.10.2024	#5 0 /0 07.11.2024 17:13:38 Искусственный интеллект возник совсем недавно. Он молодой и хулиганит как ребёнок. Ученные постоянно работают над его усовершенствованием, и потому остается только надеяться, что его научат находить им же созданные фейки, обращать внимание людей на недостоверную, порождённую им информацию или даже самостоятельно удалять всё ненужное.