keskiviikko 14. syyskuuta 2011

Vertaiset, osa &@#%

Saimme jälleen arviot eräästä toisesta paperista. Editorin päätös oli yksikantainen "hylkäys", mikä on erittäin mielenkiintoinen ratkaisu. Editori kirjoitti näin:
"Reviewers' comments on your work have now been received. You will see that they are advising against publication of your work. Therefore I must reject it."
Vaan mitä arviot sanovat?

Jotta arvioita voi ymmärtää, kerrottakoon, että paperissamme oli teoriatulos kahden käsitteen suhteesta. Olennaisilta osin se oli, että 1) menetelmän A teoria sisältää menetelmän B teorian erikoistapauksenaan. B on erittäin käytetty teoria ja käytännöllinen. 2) A:n sovelluksissa voidaan käyttää erästä tekniikkaa, jota B:n sovelluksissa ei ole käytetty, koska ei ole voitu osoittaa että se toimii, nyt voidaan käyttää.

Arvioija sanoo:
So, theoretical considerations between the confluence and ample set approach are not that relevant from a practical point of view. I would not complain about the lack of practical implications, if there would be a deep theoretical contribution. But, to my opinion, this is not the case.
OK, tämä on siis keskeinen arvioijan argumentti hylkäykselle.

Vaan mitä sanoo arvioija 2?
The paper presents a thorough comparison between two state space reduction techniques for probabilistic model checking. It compares confluence reduction and ample-set-based partial order reduction. It concludes that any ample set reduction is also a confluence reduction but not on the other way around. It also finds the precise hypothesis that make both techniques equivalent. This relation brings as a corollary the understanding on how the algorithms of one technique could be used in or adapted to the other.
Tätä seuraa muutama kappale, jossa yksityiskohtaisesti käydään läpi itse käsitteiden merkitystä, ja mainitaan kaksi epäselvyyttä erään teoreeman todistuksessa. Ja sitten loppukaneettina:
It is my impression that the paper should be accepted with the minor revisions I enumerate below, though they should put particular attention on the proof of Theorem 15.
Tämä on siis editorin mielestä sitä, että molemmat ehdottavat hylkäämistä? Ottaen huomioon, että toinen arvioija esitti suoran argumentin sille, miksi ensimmäisen arvioijan keskeinen peruste hylkäämiselle ei ole validi, ja esitti paperin hyväksymistä, on aika tylyä editorilta väittää, että molemmat olisivat ehdottaneet hylkäystä.

LISÄYS 15.9.:
Pyydettäessä lisäperusteluja hylkäykselle, editori vastasi näin (huom: ei alkuperäinen viesti, sillä alkuperäinen viesti oli toisella kielellä, jolta se on käännetty englanniksi erään toisen kirjoittajan toimesta)
Considering this unsatisfactory situation I propose that you revise your manuscript as suggested by reviewer #2 and resubmit the revision. I will then arrange a third independent reviewer. Would you be happy with this procedure?
Tulkitsen tämän niin, että editori oli ns. kämmännyt eli ei ollut oikeastaan lukenut toista arvostelua. Tämähän olisi ollut normaali toimintatapa täysin ristiriitaisten arvostelujen jälkeen muutenkin.

11 kommenttia:

Kumitonttu kirjoitti...

Viittaatko otsikossa siihen, että on kuitenkin käytännössä mahdotonta, että CAGW-teorian osalta vertaisarviointi ontuisi?

Tomi kirjoitti...

Miksi negatiivinen arvio painoi paljon enemmän?
Tarvitaanko kyseisessä julkaisussa kaksi positiivista raporttia.

Tomi kirjoitti...

Kyseessä on mielestäni editorin virhe, toinen arvioija ihan selvästi pitää paperia julkaisun arvoisena.

Aiotko valittaa?

Tiedemies kirjoitti...

Lähetimme editorille sähköpostin, jossa pyysimme tarkempia perusteluita, etenkin kun jälkimmäinen oli niin positiivinen.

Kumis, tällainenhan ei vielä kuvasta systemaattista biasta, jollainen vaaditaan siihen, että jonkun kokonaisen teorian osalta vertaisarviointi menisi metsään. Huono arviointi tuo satunnaiskohinaa julkaisuprosessiin, eli se on oikeastaan päinvastainen ilmiö kuin se, mistä AGW-teorioiden julkaisijoita useimmiten syytetään.

Vertaisarviointi tietenkin on osittain rikki, ja ontuu varmasti sekä tällä tavalla että systemaattisilla tavoilla. Tämä tapaus ei kuitenkaan siitä millään tavalla ole osoitus.

Kumitonttu kirjoitti...

Eli vastauksesi on "kyllä"?

Tiedemies kirjoitti...

En viitannut otsikossa mihinkään sellaiseen, vaan tämä asia ja ilmiö ei oikeastaan mitenkään liity AGW:hen. Kysymys siitä, onko vertaisarvioinnissa jotain sellaista vikaa, joka olisi johtanut AGW-teorian läpilyöntiin vailla kunnon meriittiä, ei liity siihen ilmiöön, jota tässä käsitellään.

Se ei siis ole mahdotonta, vaan epärelevanttia tämän käsitellyn ilmiön näkökulmasta. Tällaisella mekanismilla (siis typerät ja laiskat arvioijat) ei voi oikein masinoida konsensusta.

Mikko kirjoitti...

Toi on kyllä niin perseestä.

Juha Kettunen kirjoitti...

Aina kun ihmiset vaikuttavat käyttäytyvän selittämättömällä tavalla, pitäisi osata pitää tyhmyyttä todennäköisimpänä selityksenä. Tämä tapaus kuulostaa kuitenkin perin oudolta.

Onko jampalla ollut tajuton kiire? Krapula? Vai onko jollakin jotakin henkilökohtaista hampaankolossa sinua vastaan? Eihän tuossa ole mitään järkeä.

Eikö vertaisarviointiprosessissa ole mitään laadunvalvontamekanismeja tällaisia ylilyöntejä varten?

Tiedemies kirjoitti...

Oma veikkaukseni siitä, mitä on tapahtunut: Editorilla kiire saada asia hoidettua. Ensimmäinen lausunto on ollut kovin negatiivinen, joten kun toinen lausunto on tullut, sitä ei ole viitsitty lukea ajatuksella, katsottu vaan, että ompas pitkä kommentti, varmaan hylkäys, ja ilmoitettu meille.

Editorilla tuskin on meikäläistä vastaan mitään hampaankolossa. On mahdollista, että joku eurooppalainen useissa PC:issä istuva on kyllä suivaantunut meidän tutkimuksestamme, koska olen saanut muutaman kerran hyvin samankaltaisen hylkäystä ehdottavan ja erittäin tylyn arvion samantapaisista tutkimusaiheista. Mitään salaliittoa tuskin on meneillään.

Tomi kirjoitti...

Luulen, että olet oikeassa. Editori ei ollut lukenut toista arviota ollenkaan ja teki päätöksen ensimäisen perusteella.

Todella surkeaa toimintaa editorilta.

Tiedemies kirjoitti...

Jep, normaali toimintahan olisi ollut, että kun editori saa kaksi täysin päinvastaista arviota, niin kysytään kolmas mielipide, joka ratkaisee. Nyt tilanne on juuri tällainen, mutta vasta kun kysyimme tarkempia perusteluja hylkäykselle.