Мир энциклопедий

Для ре­ше­ния этой про­бле­мы участ­ни­ка­ми поль­зо­ва­тель­ско­го со­об­ще­ства «Ви­ки­пе­дии» были со­зда­ны два про­грамм­ных ин­стру­мен­та: ро­бо­ты, или боты , и ки­бор­ги. Боты ав­то­ма­ти­че­ски вы­пол­ня­ют стан­дарт­ные за­да­ния, на­при­мер, SpellCheckerBot ис­прав­ля­ет ошиб­ки пра­во­пи­са­ния. Ки­бор­ги же пред­став­ля­ют собой «умные» поль­зо­ва­тель­ские ин­тер­фей­сы, по­мо­га­ю­щие ре­дак­то­рам быст­рее при­ни­мать ре­ше­ния, — на­при­мер, ки­борг Huggle за­ни­ма­ет­ся мас­со­вым уда­ле­ни­ем пра­вок, вно­си­мых вандалами.

Вме­сте боты и ки­бор­ги со­став­ля­ют первую линию за­щи­ты в «им­мун­ной си­сте­ме» Ви­ки­пе­дии.

Борь­ба с вандализмом

По­жа­луй, лучше всего спо­соб­но­сти ботов и ки­бор­гов про­яв­ля­ют­ся в борь­бе с ван­да­лиз­мом в Ви­ки­пе­дии — с ро­стом аудитории эн­цик­ло­пе­дии в 2004–2007 годах, по­ми­мо цен­ных до­пол­не­ний, в нее устре­мил­ся поток неумест­но­го кон­тен­та и ван­даль­ских пра­вок, с ко­то­рым труд­но спра­вить­ся без автоматизации.

Ран­ние инструменты

Пер­вы­ми ин­стру­мен­та­ми, прин­ци­пи­аль­но из­ме­нив­ши­ми борь­бу с ван­да­лиз­мом в Ви­ки­пе­дии, стали AntiVandalBot и VandalProof. Пер­вый с по­мо­щью неслож­но­го на­бо­ра пра­вил и эв­ри­стик сле­дит за из­ме­не­ни­я­ми, вно­си­мы­ми в ста­тьи, вы­яв­ля­ет самые оче­вид­ные про­яв­ле­ния ван­да­лиз­ма и ав­то­ма­ти­че­ски от­ме­ня­ет их. Бла­го­да­ря этому боту участ­ни­ки со­об­ще­ства Ви­ки­пе­дии впер­вые смог­ли за­щи­щать эн­цик­ло­пе­дию от по­вре­жде­ния без за­трат вре­ме­ни и сил ре­дак­то­ров. Од­на­ко AntiVandalBot мог предот­вра­щать лишь самые во­пи­ю­щие слу­чаи вандализма.

VandalProof — пер­вый ки­борг — пред­став­лял собой на­пи­сан­ный на Visual Basic гра­фи­че­ский ин­тер­фейс, с по­мо­щью ко­то­ро­го упол­но­мо­чен­ные ре­дак­то­ры могли прак­ти­че­ски в ре­аль­ном вре­ме­ни сле­дить за прав­ка­ми ста­тей и одним щелч­ком от­ме­нять неже­ла­тель­ные из­ме­не­ния. VandalProof до­пол­нял AntiVandalBot и его на­след­ни­ков: явные об­раз­цы ван­да­лиз­ма он остав­лял ботам, а на осталь­ное ука­зы­вал ре­дак­то­рам, ко­то­рые вруч­ную от­ме­ня­ли правки.

Со­вре­мен­ные инструменты

Несколь­ко лет тому назад, после смены мно­гих по­ко­ле­ний, боты и ки­бор­ги стали более мощ­ны­ми, точ­ны­ми и дру­же­ствен­ны­ми к поль­зо­ва­те­лю. И те­перь, как видно из рис. 1, эти ин­стру­мен­ты иг­ра­ют все боль­шую роль в под­дер­жа­нии ка­че­ства ста­тей Ви­ки­пе­дии.

Вме­сто AntiVandalBot с его про­сты­ми пра­ви­ла­ми и неслож­ной эв­ри­сти­кой се­год­ня ис­поль­зу­ет­ся ClueBot_NG — вы­со­ко­точ­ный ме­ха­низм на ос­но­ве ней­ро­се­ти и тех­но­ло­гии ма­шин­но­го обу­че­ния: ре­дак­то­ры ука­зы­ва­ют ки­бор­гу на со­вер­ша­е­мые им ошиб­ки, а раз­ра­бот­чи­ки пе­ри­о­ди­че­ски пе­ре­обу­ча­ют его клас­си­фи­ка­тор. Вме­сто VandalProof те­перь при­ме­ня­ет­ся Huggle с более со­вре­мен­ным поль­зо­ва­тель­ским ин­тер­фей­сом, вы­со­кой на­стра­и­ва­е­мо­стью и ин­тел­лек­ту­аль­ной си­сте­мой сор­ти­ров­ки пра­вок по сте­пе­ни ве­ро­ят­но­сти ван­да­лиз­ма. Huggle поз­во­ля­ет об­ра­ба­ты­вать об­раз­цы ван­да­лиз­ма, ко­то­рые не «от­лав­ли­ва­ет» ClueBot_NG.

Рас­пре­де­лен­ное опознавание

Се­год­ня, бла­го­да­ря ClueBot_NG и ки­бор­гу Huggle, ра­бо­та­ю­ще­му в связ­ке с лю­дь­ми, боль­шин­ство актов ван­да­лиз­ма вы­яв­ля­ет­ся и от­ме­ня­ет­ся еще до того, как их за­ме­тит ре­дак­тор или чи­та­тель. Од­на­ко ско­рость и эф­фек­тив­ность, с ко­то­ры­ми эти ин­стру­мен­ты справ­ля­ют­ся с ин­ди­ви­ду­аль­ны­ми раз­ру­ши­тель­ны­ми прав­ка­ми, это лишь один из ас­пек­тов стра­те­гии борь­бы с ван­да­лиз­мом в Ви­ки­пе­дии. Стю­арт Гей­гер и Дэвид Райбс в ста­тье “The Work of Sustaining Order in Wikipedia: The Banning of a Vandal” от­ме­ча­ют, что боты и ки­бор­ги об­ра­зу­ют «рас­пре­де­лен­ную си­сте­му опо­зна­ва­ния», при­дав­шую новый облик про­цес­су вы­яв­ле­ния и уда­ле­ния дей­ствий ван­да­лов. Боты и ки­бор­ги, ра­бо­тая неза­ви­си­мо друг от друга, «об­ра­ба­ты­ва­ют каж­дую вре­до­нос­ную прав­ку через со­ци­аль­ную ин­фра­струк­ту­ру, в ре­зуль­та­те чего ад­ми­ни­стра­то­ры и ре­дак­то­ры опо­зна­ют ван­да­лов». Дру­ги­ми сло­ва­ми, боты и ки­бор­ги Ви­ки­пе­дии ав­то­ма­ти­че­ски ре­ги­стри­ру­ют все дей­ствия ре­дак­то­ров-но­вич­ков, что поз­во­ля­ет быст­ро и эф­фек­тив­но иден­ти­фи­ци­ро­вать ван­да­лов, бло­ки­ро­вать их де­я­тель­ность и тем самым со­зда­вать «им­му­ни­тет» к даль­ней­шим по­пыт­кам повреждения.

Со­ци­а­ли­за­ция ботов

Боты вы­пол­ня­ют прав­ки в сотни раз быст­рее, чем люди, но они также могут на­но­сить мас­со­вый ущерб неумест­ны­ми дей­стви­я­ми из-за оши­бок в коде либо из-за того, что ав­то­ры бота не учли по­же­ла­ний дру­гих участ­ни­ков со­об­ще­ства. Чтобы предот­вра­тить воз­ник­но­ве­ние таких про­блем, участ­ни­ки груп­пы Bot Approvals Group про­ве­ря­ют все пред­ло­же­ния о со­зда­нии новых ботов и рас­смат­ри­ва­ют жа­ло­бы на дей­ствия су­ще­ству­ю­щих. По мне­нию Гей­ге­ра, ре­дак­то­ры Ви­ки­пе­дии рас­смат­ри­ва­ют боты не толь­ко как ин­стру­мен­ты или сред­ства си­ло­во­го под­креп­ле­ния, но также в ка­че­стве участ­ни­ков со­ци­у­ма эн­цик­ло­пе­дии. От­ча­сти это свя­за­но с тем, что боты вза­и­мо­дей­ству­ют с Ви­ки­пе­ди­ей так же, как и ре­дак­то­ры-лю­ди: они ре­дак­ти­ру­ют ста­тьи и стра­ни­цы через поль­зо­ва­тель­ские ак­ка­ун­ты, а также от­прав­ля­ют и по­лу­ча­ют со­об­ще­ния, ко­то­рые для кон­тро­ля дол­жен про­чи­ты­вать че­ло­век, от­ве­ча­ю­щий за бот. Ре­дак­тор Tawker, опе­ра­тор AntiVandalBot, в 2006 году даже в шутку но­ми­ни­ро­вал свой бот на вы­бо­ры в Ар­бит­раж­ный ко­ми­тет — сво­е­го рода вер­хов­ный суд Ви­ки­пе­дии.

В ка­че­стве при­ме­ра в под­держ­ку сво­е­го мне­ния Гей­гер при­во­дит мас­со­вое воз­му­ще­ние участ­ни­ков со­об­ще­ства Ви­ки­пе­дии де­я­тель­но­стью бота HagermanBot, ко­то­рый сле­дил за ис­пол­не­ни­ем об­ще­при­ня­то­го в эн­цик­ло­пе­дии пра­ви­ла о под­пи­сы­ва­нии ком­мен­та­ри­ев, чтобы в дис­кус­си­ях не было ано­ним­ных участ­ни­ков. Бот ино­гда по ошиб­ке под­пи­сы­вал прав­ки, не яв­ляв­ши­е­ся ком­мен­та­ри­я­ми, од­на­ко недо­воль­ство вы­зы­ва­ла имен­но нор­маль­ная ра­бо­та про­грам­мы. «Мне не нра­вит­ся, что этот бот ре­дак­ти­ру­ет со­об­ще­ния на стра­ни­цах бесед без ве­до­ма и со­гла­сия их участ­ни­ков», — объ­яс­нил Sensemaker, один из ре­дак­то­ров Ви­ки­пе­дии. Пре­тен­зии к HagermanBot воз­ник­ли несмот­ря на то, что ре­дак­то­ры-лю­ди вы­пол­ня­ли те же функ­ции еще за­дол­го до его по­яв­ле­ния. В дис­кус­сии о том, сле­ду­ет ли поз­во­лить HagermanBot про­дол­жать ра­бо­ту, ав­то­ри­тет­ный ре­дак­тор и ад­ми­ни­стра­тор Рич Фарм­б­ро предо­сте­рег поль­зо­ва­те­лей от «бо­то­фо­бии», об­ра­тив вни­ма­ние, что боты ведут себя лучше, чем люди. Таким об­ра­зом, боты до ка­кой-то сте­пе­ни стали участ­ни­ка­ми со­ци­у­ма он­лайн-эн­цик­ло­пе­дии, по­это­му при­ш­лось ис­кать спо­со­бы их мир­но­го со­су­ще­ство­ва­ния с редакторами-людьми.

Про­бле­ма HagermanBot была ре­ше­на при по­мо­щи ме­ха­низ­ма от­ка­за от ис­поль­зо­ва­ния (opt-out) — ре­дак­тор может при­ка­зать боту не под­пи­сы­вать его прав­ки путем из­ме­не­ния со­от­вет­ству­ю­щей на­строй­ки в про­фи­ле. Со вре­ме­нем ме­ха­низм opt-out стал во­пло­ще­ни­ем вто­ро­го за­ко­на ро­бо­то­тех­ни­ки Ай­зе­ка Ази­мо­ва — робот дол­жен под­чи­нять­ся всем при­ка­зам, ко­то­рые ему от­да­ет человек.

Мо­ти­ва­ци­он­ные ас­пек­ты киборгов

Huggle, один из самых по­пу­ляр­ных ан­ти­ван­даль­ных ин­стру­мен­тов ре­дак­ти­ро­ва­ния в Ви­ки­пе­дии, на­пи­сан на C#.NET, и любой поль­зо­ва­тель может ска­чать и уста­но­вить его. С по­мо­щью Huggle ре­дак­то­ры могут от­ме­нять из­ме­не­ния, но, учи­ты­вая ши­ро­ту воз­мож­но­стей ин­стру­мен­та, раз­ре­ше­ние на от­ме­ну предо­став­ля­ет­ся толь­ко ад­ми­ни­стра­то­рам и при­ви­ле­ги­ро­ван­ным пользователям.

Huggle упро­ща­ет про­смотр серии по­след­них пра­вок, поз­во­ляя филь­тро­вать их в со­от­вет­ствии с поль­зо­ва­тель­ски­ми на­строй­ка­ми. На рис. 2 слева по­ка­зан спи­сок недав­них пра­вок, от­сор­ти­ро­ван­ных по сте­пе­ни ве­ро­ят­но­сти ван­да­лиз­ма. При вы­бо­ре одной из пра­вок она ис­че­за­ет из спис­ка у осталь­ных поль­зо­ва­те­лей Huggle, чтобы сни­зить риск кон­флик­та. В пра­вой части экра­на вы­де­ле­ны из­ме­не­ния вы­бран­ной прав­ки: зе­ле­ным обо­зна­чен до­бав­лен­ный кон­тент, жел­тым — уда­лен­ный. Число у пра­во­го края над прав­кой (+6128) — это ко­ли­че­ство до­бав­лен­ных слов (или уда­лен­ных, когда оно от­ри­ца­тель­ное). Ввер­ху спра­ва отоб­ра­жа­ет­ся ско­рость ра­бо­ты поль­зо­ва­те­ля (в дан­ном слу­чае в ми­ну­ту он про­смат­ри­ва­ет 92 прав­ки и де­ла­ет че­ты­ре от­ме­ны). При от­сут­ствии ин­фор­ма­ции о ка­че­стве ре­дак­тор­ской ра­бо­ты поль­зо­ва­те­лей этот «счет» по­ощ­ря­ет к тому, чтобы уве­ли­чи­вать ча­сто­ту отмен. Этой же цели слу­жит про­сто­та от­ме­ны: когда поль­зо­ва­тель на­жи­ма­ет на боль­шую крас­ную кноп­ку с вос­кли­ца­тель­ным зна­ком ввер­ху слева, Huggle от­ме­ня­ет отоб­ра­жа­е­мую прав­ку и пе­ре­да­ет пред­по­ло­жи­тель­но­му ван­да­лу уве­дом­ле­ние о недо­стой­ном поведении.

Неко­то­рые участ­ни­ки со­об­ще­ства Ви­ки­пе­дии по­ла­га­ют, что эти мо­ти­ва­ци­он­ные меры за­хо­дят слиш­ком да­ле­ко, пре­вра­щая эн­цик­ло­пе­дию, ско­рее, в игру, чем в се­рьез­ный про­ект. В самой Ви­ки­пе­дии даже есть ста­тья, утвер­жда­ю­щая, что он­лайн-эн­цик­ло­пе­дия пре­вра­ти­лась в мно­го­поль­зо­ва­тель­скую ро­ле­вую игру с «мон­стра­ми» (ван­да­ла­ми), ко­то­рых нужно по­беж­дать, во­ору­жив­шись «опы­том» (ко­ли­че­ством пра­вок или отмен), ко­то­рый необ­хо­ди­мо за­ра­ба­ты­вать, и «по­ве­ли­те­ля­ми» (ад­ми­ни­стра­то­ра­ми), ко­то­рым сле­ду­ет подчиняться.

***

Боты и ки­бор­ги стали важ­ней­шим эле­мен­том эко­си­сте­мы Ви­ки­пе­дии. Без них в усло­ви­ях экс­по­нен­ци­аль­но­го роста числа новых поль­зо­ва­те­лей эн­цик­ло­пе­дию кон­тро­ли­ро­вать невоз­мож­но, од­на­ко боты и ки­бор­ги — это не про­сто ин­стру­мен­ты для кон­тро­ля ка­че­ства кон­тен­та. Вза­и­мо­дей­ствуя с лю­дь­ми, они фун­да­мен­таль­но ме­ня­ют саму куль­ту­ру Ви­ки­пе­дии. Так, недав­нее ис­сле­до­ва­ние по­ка­за­ло, что от­ме­ны пра­вок стали мощ­ным де­мо­ти­ви­ру­ю­щим фак­то­ром для ав­то­ров Ви­ки­пе­дии, осо­бен­но для но­вич­ков. Ин­стру­мен­ты на­по­до­бие Huggle ав­то­ма­ти­че­ски рас­по­зна­ют по­тен­ци­аль­но тре­бу­ю­щие от­ме­ны прав­ки, ра­бо­та­ют быст­ро и воз­на­граж­да­ют ре­дак­то­ров на­чис­ле­ни­ем «очков» за каж­дую от­ме­ну, обес­пе­чи­вая быст­рое и без­жа­лост­ное уда­ле­ние или кор­рек­цию кон­тен­та, уве­дом­ляя ав­то­ров об от­ме­нах лишь через ав­то­ма­ти­че­ски сге­не­ри­ро­ван­ное объ­яс­не­ние. По­это­му ис­сле­до­ва­те­ли из Уни­вер­си­те­та Мин­не­со­ты (University of Minnesota) ра­бо­та­ют с Фондом Викимедиа (Wikimedia Foundation) над со­зда­ни­ем более «ком­му­ни­ка­бель­ных» вер­сий ки­бор­гов, ко­то­рые дадут воз­мож­ность поль­зо­ва­те­лям-лю­дям стать более эф­фек­тив­ны­ми участ­ни­ка­ми со­об­ще­ства Ви­ки­пе­дии. Пред­став­ля­ет­ся весь­ма ин­те­рес­ным, какие на про­тя­же­нии сле­ду­ю­ще­го де­ся­ти­ле­тия по­явят­ся нормы вза­и­мо­дей­ствия между мил­ли­о­на­ми поль­зо­ва­те­лей-лю­дей и ты­ся­ча­ми ав­то­ма­ти­че­ских ин­стру­мен­тов в со­об­ще­стве, где и тем и дру­гим от­во­дят­ся весь­ма важ­ные роли.

Аарон Хал­фей­кер (Aaron Halfaker) (halfaker@​cs.​umn.​edu) — ас­пи­рант, Джон Ридл (John Riedl) (riedl@​cs.​umn.​edu) — пре­по­да­ва­тель фа­куль­те­та ком­пью­тер­ных наук и ин­же­не­рии Уни­вер­си­те­та Миннесоты.