Traduzo livremente aqui um texto do Eliezer Yudkowsky.

Não concordo 100% com o que ele diz, mas acho que é produtivo de pensar nisto.

A principal causa de morte de comunidades boas da internet é a recusa em defender-se.

Isto está acontecendo agora mesmo, nalgum canto da rede. Era uma vez um "parque" bem cuidado, de discussão inteligente, cheio de gente informada e interessada, atraída pela qualidade do discurso que via ali. Até que um tolo entrou no parque, e destruiu parte desta qualidade — talvez um pouco, talvez muito; depende da frequência de participação do tolo. (É pior se o tolo é eloquente, a ponto dos veteranos sentirem-se obrigados a responder e corrigir suas tolices; daí o tolo domina a conversa.)

Agora o parque está emporcalhado, e não é tão prazeroso de usar. Os veteranos continuam, apegados ao lugar; mas há muito menos chances de atraírem novatos. Ou, se houver novatos, também serão piores.

Daí entra mais um tolo no parque, e um tolo dá corda ao outro. Alguns veteranos caem fora — os mais exigentes, com mais chance de encontrar parques melhores.

Embora fosse jovem na época, sou velho a ponto de lembrar da USENET*¹ esquecida. Ao contrário da primeira Internet, que morreu há muitos anos no Setembro Eterno, hoje em dia há sempre um jeito de remover conteúdo indesejado. Alguém sempre tem o poder de banir, graças ao spam: tão flagrante que ninguém defende, tão prolífico que ninguém ignora.

Mas, quando os tolos começam a invadir, há comunidades que creem que são boas demais para banir como forma de, putz, censura.

É assim, pessoas aculturadas pelo pensamento acadêmico sabem que a censura é um pecado gravíssimo… em universidades, parques murados nos quais cobra-se milhares de reais pela entrada, onde estudantes temem pelas suas notas, e onde os serviçais da limpeza jamais ousaria participar do colóquio.

É fácil ser ingênuo e ser contra censura, quando já vivendo num parque bem mantido. Assim como é fácil ser incondicionalmente pacisfista, num país com soldados armados nas fronteiras e polícia efetiva nas cidades. Padrões morais não custam nada… desde que a polícia faça seu trabalho.

No começo, quando a comunidade ainda florescia, via-se censura como imposição terrível e desnecessária. Ainda estava tudo bem; é só um tolo, se não tolerarmos nem mesmo um tolo, não somos lá muito tolerantes, né? Talvez desista e vá embora por si só, sem precisarmos censurá-lo. E se a comunidade inteira ficar menos prazerosa devido ao tolo… prazer não justifica censura, assim como não ir com a cara de alguém não justifica esmurrá-la.

Só que entrar numa comunidade é um processo estritamente voluntário; e, se membros novos em potencial não gostam do que veem, vão passar longe dela.

E outra: quem será o censor? A quem delegaremos este poder?

Provavelmente, num parque bem cuidado, pode-se delegá-lo a muitos. Mas se houver um pingo de divisão interna, de facções, se há quem participa sem confiar nos moderadores/administradores/etc. (nestes casos, parece que a política interna é muito mais importante que a mera invasão de bárbaros)… então, verão tentar defender a comunidade como golpe. Quem é este, que posa de juiz e carrasco? Acha mesmo que posse do servidor significa posse das pessoas? Da nossa comunidade? Crê ser um deus, só porque controla o código-fonte?

Admito que não entendia no passado por que comunidades sofrem tanto para defender-se; pensava ser só ingenuidade. Não percebia ser um instinto egalitário, para evitar que líderes tribais tenham poder demais. Como uma tribo de caçadores-coletores (cujo nome esqueci) dizia, "nenhum de nós é maior que o outro, somos todos homens e guerreiros; vou pegar minhas flechas." (Entre humanos, ao contrário de chimpanzés, armas são um equalizador; enquanto isto, acho que o líder tribal é produto da agricultura, de tempos em que não é mais possível "simplesmente" ir embora.)

Talvez porque cresci em lugares da internet onde sempre havia um operador de sistema, sempre achei natural que quem mantém o servidor tem certas responsabilidades. Talvez entenda intuitivamente que o oposto da censura não é o meio acadêmico, mas sim o 4chan (e olha que até o 4chan deve ter lá seus mecanismos prevenindo spam*²). Talvez por crescer num espaço amplo e aberto, onde a liberdade que importava era a de escolher um parque bem cuidado, do qual você gostava e que gostava de você, como se pudesse encontrar um país com leis boas. Talvez porque sempre achei natural que, se você não gosta do mestre-maior, vai embora e pronto (aliás, fiz isto uma vez).

E talvez porque volta-e-meia quem cuidava do servidor era eu. Mas sou consistente, normalmente o primeiro da fila a apoiar os moderatores — mesmo os que oponho na política interna. Sei o que acontece quando uma comunidade começa a desconfiar dos seus moderadores. Qualquer inimigo político que eu tinha numa lista de e-mails, que fosse popular a ponto de ser perigoso, seria alguém improvável de abusar deste poder específico da censura; e quando esta pessoa quando vestia o jaleco de moderador, eu encorajava a pessoa — ela precisava ser apoiada, e não derrubada. Quem cresceu num meio acadêmico simplesmente não entende como são altas as muralhas da exclusão, que mantém os "trolls" fora do seu jardim de "liberdade de expressão".

Normalmente, uma comunidade que precisa ver seus moderadores com desconfiança, cujos moderadores são abusivos, é uma que não merece ser salva. Mas, até onde vi, tais acusações não costumam ser reais.

De qualquer forma, foi há pouco tempo que caiu-me a ficha, que instintos egalitários (instintos para evitar líderes de exercer o poder) matam comunidades online. Aliás, caiu enquanto lia um comentário no Less Wrong, embora não lembre qual.

Mas vi isto acontecer — várias e várias vezes, enquanto eu instigava os moderadores e apoiava-os independentemente de gostar deles ou não, e ainda assim os moderadores não faziam o suficiente para previnir a decadência gradual. Humildes demais, duvidando muito mais de si mesmos que eu deles. Era um encontro de racionalistas, o terceiro pecado mais comum entre racionalistas é a falta de confiança própria.

Quanto à internet: qualquer um pode entrar numa comunidade. Qualquer um pode sair dela. E uma comunidade precisa ser divertida para continuar viva. Esperar até o flagrante absoluto, óbvio, inquestionável — tanto quanto um policial deve esperar para abrir fogo — rendendo-se à sua consciência e às virtudes que cultivou nas fortalezas muradas, esperar até ter certeza que está certo, sem temer olhares reprovatórios — é esperar demais.

Já vi comunidades racionalistas morrerem por confiar de menos nos seus moderadores. Mas não foi por karma.

Ouça — confiem em vocês mesmos.

Uma certa frase faz sentido aqui: "não acredite em si mesmo! Acredite que acredito em você!"*³

Porque eu realmente acredito que se você quer dar um voto negativo a um comentário que parece ser ruim… e mesmo assim você hesita, questionando-se se talvez está votando porque discorda da conclusão, ou não gosta do autor… sentindo-se nervoso, que talvez alguém vendo você pode acusá-lo de ser parte de uma câmara de eco, ou patotinha, ou de censura… aposto que 90% das vezes, no mínimo, o comentário em questão é realmente ruim.

Você tem o poder do voto negativo. Use-o ou USENET.

~~~~~~~

Notas de tradução:

1. A USENET é um sistema de discussões de 1980. Extremamente influente. Entrou em declínio no fim dos anos 90, começo dos 00; creio eu que porque a qualidade da discussão decaiu.


2. O 4chan sempre teve muitos sistemas anti-spam: moderação, filtros de palavras, etc. Interessante notar que a moderação sempre foi ridicularizada; já no começo, alegavam que um dos moderadores gostava de pornografia infantil (não sei se é verdade). E até hoje há o "he does it for free!" meme, que ridiculariza os "janitors" (zeladores; a casta baixa dos moderadores do 4chan) com o meme "he does it for free!" ("ele faz de graça!"), como se fossem desempregados trabalhando de graça. (E comendo hot pockets.)


3. Por acaso conheço a fonte desta frase, é uma série de anime chamada Tengen Toppa Gurren Lagann. Um dos personagens (o Simon) tem muito medo de agir, então o outro (o Kamina) sempre fala isto para ele. Aliás, recomendo muito a série.

Olá Eremita, esse tópico é muito interessante e a resposta ao problema é difícil.

Eu entendo que certos "parques" por vezes podem formar um Clube de pessoas com uma certa opinião ou tolerância as regras de administração dessa comunidade devido a suas personalidades.

Por exemplo, pessoas interessadas em um debate sério pode preferir uma moderação mais rígida e ela pode ser saudável se focar em impedir muita brincadeira fora das áreas adequadas que o parque reserva para isso, talvez impedir que fujam do assunto do debate e que as pessoas troquem ofensas.

Mas as regras devem ser poucas, racionais e claras para quem participa.

Do outro lado existe gente que prefere espaços mais anárquicos, onde o tema original de uma discussão migra e onde as pessoas fazem piada e toleram ofensas.

Contanto que existam "parques" para ambos os gostos isso não é ruim.

O problema é que na atualidade os parques para esse tipo de debates saíram de moda, o pessoal agora gosta de parque multimídia com som alto e imagens em 4k.

O que significa que esses parques para pessoas com gosto pelos debates mais produtivos fatalmente tornaram-se locais para comunidades cada vez menores, a menos que se crie um modo de unir essas comunidades fragmentadas e permitir a interação entre elas.

Mas um risco real da censura eu vivi pessoalmente no auge dos parques de debates filosóficos, lá por volta de 2005.
O meu parque favorito se chamava ateus.net, tinha pessoas legais para conversar e debates interessantes sobre ateismo e religião.

O problema é que em determinado momento o dono do parquinho não ficou satisfeito em regular comportamento em termos de proibir ofensas ou sair do assunto tópico.

A política dele passou a ser algo que o texto que você postou parece ter como ideal.
Livrar-se dos estúpidos e manter os espertos e dignos de usar o parque.

O resultado não poderia ter sido pior. O parque morreu.
Ao tentar definir quem seriam os estúpidos, o dono do parque baniu todo mundo que pensava diferente dele e manteve somente quem pensava igual.

A meia dúzia de pessoas inteligentes dignas do parque ainda tentaram por algum tempo manter o debate, mas quando alguém fazia um discurso os outros somente aplaudiam e concordavam.
Não tinha divergência de opinião, portanto, não tinha mais debate.

Em pouco tempo o parque ficou as moscas, mesmo existindo no auge da época em que esses parques ainda eram populares.

Não acho que a questão do Yudkowsky seja parques "anárquicos", criados para discussão casual, mesmo que ele foque nos parques "sérios". Acho que a questão dele é o povo que entra no parque só para avacalhar com a diversão alheia, independentemente de "intenções".

Por exemplo. Eu discutia bastante Linguística noutro forum. E sempre aparecia zé mané papagaiando certos mitos ou pseudociência; tipo "sânscrito é a origem dos outros idiomas", "reconstruí o proto-mundo, nobel pfv", por aí vai. E quando isto acontecia, a conversa emperrava — lá ia tudo quanto é veterano refutar a besteira do fulano; quando o assunto te empolga, besteira sobre ele incomoda, sabe? E mesmo se fosse só um ou dois veteranos respondendo, já criava barulho.

Chegou ao ponto que era impossível discutir certos assuntos, como o manuscrito Voynich, que atrai 9001 tolos com certezas opostas, enquanto os poucos qualificados para o assunto mantinham seu ceticismo. Aconteceu o que o texto falou; os veteranos foram embora.

Daí passei uma época sendo moderador no Reddit e depois no Lemmy. E percebi tanto em mim mesmo como em muitos outros moderatores um certo "medo" de ser tirano, e como consequência deixando a sujeira ficar. 

Você mencionou o ateus.net; eu não era forista lá, mas lurkava bastante. Talvez o problema do Cancian tenha sido o oposto (excesso de confiança no poder dele de moderar discussões?), mas acho que foi diferente; ao invés de "ei, você tá avacalhando com a brincadeira, cai fora", era como se ele dissesse "sou o dono da bola, então ou a gente joga do meu jeito ou ninguém joga".

Participei do Fórum Cético Brasileiro décadas atrás.
Era 100% moderado pelo "dono", ou seja, o que a gente postava só aparecia depois que ele lia e liberava, editado ou não.
Hoje não funcionaria, mas, na época, fóruns eram importantes e participei de debates onde aprendi muita coisa.
O FCB acabou aos poucos porque o moderador ficou sem tempo e demorava cada vez mais para uma mensagem ser liberada.
Dali eu fui para a STR e depois para o RéV.

eremitaPor exemplo. Eu discutia bastante Linguística noutro forum. E sempre aparecia zé mané papagaiando certos mitos ou pseudociência; tipo "sânscrito é a origem dos outros idiomas", "reconstruí o proto-mundo, nobel pfv", por aí vai. E quando isto acontecia, a conversa emperrava — lá ia tudo quanto é veterano refutar a besteira do fulano; quando o assunto te empolga, besteira sobre ele incomoda, sabe? E mesmo se fosse só um ou dois veteranos respondendo, já criava barulho.

‍Então, mas ai entra o problema. Você está falando sobre curadoria de conteúdo em um forum de discussão.
Está falando em avaliar, não o comportamento em relação as regras do forum, como não ofender os outros e não desvirtuar do tópico saindo do assunto em discussão e indo para assuntos alternativos ou paralelos.

Você está falando sobre avaliar a qualidade do argumento e do conteúdo dos debatedores, algo que não tem como ser feito de modo objetivo e que limita a "qualidade" do conteúdo a "qualidade" e "capacidade" de entendimento do moderador.

Eu acho muito pouco provável isso funcionar bem em qualquer lugar.
Em geral isso tem o efeito oposto do pretendido e termina emburrecendo o debate.

A media da população mundial não é muito inteligente, a opinião "media" das pessoas em geral está mesmo na categoria do "mediocre". E mesmo entre aqueles que supostamente estudam certos assuntos isso não muda muito.
A "media" dos chamados "especialistas" é igualmente mediocre.

A competência real é rara, o domínio real de um assunto, qualquer assunto, é fenômeno raro concentrado em uma minoria. O resto é repetição de conteúdo decorado, mas pouco entendido e raciocínios baseados em crenças e preconceitos.

Eu entendo que você queira talvez impedir a discussão sobre terra plana em fóruns de astronomia, ou teorias sobre alienígenas ao discutir arqueologia, mas qualquer coisa que fuja muito dos extremos entra em terreno perigoso e emburrecedor.

As mentes verdadeiramente inteligentes tem ideias exóticas porque elas pensam hipóteses que ninguém nunca cogitou antes. A moderação "media" não vai identificar essas ideias como inovadoras, a moderação padrão vai tender a mediocridade e irá identificar essas ideias como parte do "barulho", como parte das teorias da conspiração. No fim vão jogar as ideias realmente inovadoras e inteligentes no lixo, junto com as ideias imbecis.

O resultado na imensa maioria das vezes será a mediocridade.

As ideias das pessoas inteligentes incomodam aos medíocres até mais do que as ideias dos idiotas. E os medíocres são incapazes de distinguir dentre ambas.
Esse é o problema fundamental com a tentativa de fazer curadoria de conteúdo em fóruns de discussão.

Enquanto a discussão é sobre regras mais rígidas ou mais soltas tem um espaço para diferentes tipos de fóruns, mas quando o assunto passa a ser julgar a qualidade da opinião de quem participa e coisa vai para um lado que dificilmente chega no resultado pretendido.

Fernando_SilvaParticipei do Fórum Cético Brasileiro décadas atrás.
Era 100% moderado pelo "dono", ou seja, o que a gente postava só aparecia depois que ele lia e liberava, editado ou não.
Hoje não funcionaria, mas, na época, fóruns eram importantes e participei de debates onde aprendi muita coisa.
O FCB acabou aos poucos porque o moderador ficou sem tempo e demorava cada vez mais para uma mensagem ser liberada.
Dali eu fui para a STR e depois para o RéV.

‍Dificil imaginar algo pior do que isso. Eu jamais participaria de um forum desses.