مواظب برخي تحليل هاي اقتصادي باشيد

کد خبر: ۱۹۰۹۲۷

تاریخ: ۲۵ شهريور ۱۳۹۰ - ۲۰:۱۶

سرويس اقتصادي- درصد قابل اعتمادي نظريه هاي اقتصادي همواره مورد بحث بوده است.

وبلاگ اقتصاد به اين مساله پرداخت:

مواظب برخي تحليل هاي اقتصادي باشيد

اولاف اشتوربک و نوربرت هرینگ

مترجم: جعفر خیرخواهان

«به تنها آماری که می‌توانید اعتماد کنید آنهایی هستند که خودتان تکذیب کردید.» چه کسی این عبارت را قبلا نشنیده است (یا استفاده نکرده است) ؟

سخنان نیش‌دار چرچیل را می‌توان به همین ترتیب برای تحلیل‌های اقتصادسنجی به کار برد که مبنایی برای اکثر یافته‌های ارائه شده در پژوهش‌ها فراهم کرد: اگر اصولا آدم‌هایی پیدا می‌شوند که شباهت با آن موجود تئوریک «انسان اقتصادی» داشته باشند آنها احتمالا خود اقتصاددانان هستند. اهل علم را با کیفیت مقالات پژوهشی آنها قضاوت می‌کنند و نه همه نتایج به دست آمده به یک اندازه مناسب برای انتشار هستند. این یافته که فرضیه معینی را نمی‌توان از لحاظ آماری تایید کرد به ندرت در هر ژورنال اقتصادی پذیرفته خواهد شد. به این دلایل است که اقتصاددانان انگیزه قوی دارند تا نتایج معنادار آماری تولید کنند. برای افرادی که یک مقاله پژوهشی نهایی شده را می‌خوانند، حتی برای داوران در ژورنال‌های علمی، این نتایج به آسانی قابل کشف و ردیابی نیست.

گاهی دانشمندان تعمدا از این روش‌ها و وسایل استفاده می‌کنند تا نتایجی قابل انتشار به وجود آورند، هر چند که در مسیر تحلیل‌هایشان روشن می‌شود هیچ چیزی وجود ندارد تا شواهدشان را تضمین نماید. البته این کار غیراخلاقی تلقی شده و حرفه اقتصاد از آن بیزاری می‌جوید. اما اینها حالت‌های افراطی هستند. برخی ترفندهای روش‌شناختی نیز وجود دارد که به شیوه‌های مختلف امکان پیچاندن مشروع آن هست. دانشمندان را نمی‌توان متهم کرد که چرا سعی می‌کنند به آنچه که نتیجه بهتری می‌دهد برسند و روش‌های خود را طبق آن تنظیم می‌کنند.

اما اقتصاددانان به چیزی بیش از فقط انتشار مقاله می‌خواهند برسند. آنها همچنین مایلند تا نفوذ و تاثیر بگذارند. آدم‌هایی که از سیاست بدشان می‌آید به ندرت شغل اقتصاددان را انتخاب می‌کنند- به همین دلیل است که بیشتر اقتصاددان‌ها کاملا از سوگیری در آنچه دوست دارند به اثبات رسانند مصون نیستند. آنها چه آگاهانه یا ناخودآگاه آنقدر جزئیات روش‌شناسی خود را بالا و پایین می‌کنند تا به نتایجی که مناسب با باورها یا قضاوت‌های ارزشی‌شان است برسند. به این جهت چنین کاری ناشایست نیست، از این گذشته، کسانی که فرضیات معینی را ارائه می‌کنند هنوز ملزم به ارائه شواهد تجربی هستند تا کسانی که در جبهه مخالف هستند بتوانند آنها را تایید کرده یا احیانا رد کنند.

با همه اینها که گفته شد، کسانی که در مطالعات اقتصادی غرق شده‌اند باید این نکته را تشخیص دهند: معلوم نیست توصیه‌های اقتصاددان‌ها آکنده از پیش‌داوری نباشد. یک مقاله با پشتوانه شواهد تجربی را که از یک تز معین طرفداری می‌کند خواننده پژوهش‌های اقتصادی نباید به عنوان «اثبات» محکمی تصور کند. این نوشته در بهترین حالت، یک نشانه قوی است- هر اندازه روش‌شناسی قانع‌کننده‌تر باشد و ترفندهای کمتری به کار رفته باشد تا به نتایج مدنظر و معنی‌دار برسد، این نتایج باورپذیرتر و شوق‌برانگیزتر خواهد بود. همین مساله در مورد بررسی‌های بحث شده در این کتاب هم صدق می‌کند. به خصوص مقالات بسیار جدیدی را که هنوز منتظر چاپ در یک ژورنال علمی معتبر هستند خوانندگان نباید به صورت وحی منزل بنگرند. حتی بررسی‌هایی که از سد آزمون‌های نشریات حرفه‌ای پرتوقع و شناخته‌شده گذاشته‌اند بعدا معلوم شده است که رد و تکذیب شده‌اند.

ما در اینجا فقط نتایج بررسی‌هایی را ارائه کردیم که معتقد بودیم آخرین تحولات در رشته اقتصاد را آن‌طور که مورد پذیرش اقتصاددانان سرشناس هستند بازتاب می‌دهند.

هنگام گوش دادن به توصیه اقتصاددان‌ها اندکی بدبینی خوب است

گاهی پیش می‌آید که اقتصاددانان در بررسی‌های علمی که انجام می‌دهند حتی با پیش‌داوری‌های خود به مقابله برمی‌خیزند. یک نمونه خوب از این نوع انتقاد درون‌گروهی، کار پژوهشی است که چهار دانشمند سیاسی و اقتصاددان انجام دادند. آنها به کندوکاو در این زمینه پرداختند که آیا اقتصاددانان، که به خاطر حرفه خویش، تاثیر عمیقی بر بحث و مجادله درباره سیاست‌های اقتصادی و اجتماعی داشته‌اند، بحث‌ها را اکثرا با تخصص بی‌طرفانه خویش یا با پیش‌داوری که اصلا از آن دل نمی‌کنند غنا بخشیده و توسعه می‌دهند.

اساس یافته‌های تیم آنها این است: آگاه باشید! توصیه به اینکه همیشه سفارش کارشناسان را برای پیش‌داوری ذاتی وارسی کنید به ویژه زمانی معتبر است که با اقتصاددانان سروکار دارید: نظام ارزشی آنها به نظر می‌رسد با نظام ارزشی مردم عادی مرتبا فاصله می‌گیرد.

اما به نظر می‌آید مضمون «خودخواهی در برابر دگرخواهی» این ویژگی‌های شخصی را خیلی خوب بازتاب دهد: در حالی که در بررسی‌های آزمایشگاهی، دانشجویان رشته اقتصاد نسبت به سایرین به شکل خودخواهانه‌تری رفتار می‌کنند، سایر بررسی‌ها نشان داد آنها کار داوطلبانه بیشتری انجام می‌دهند و اشیای گمشده را با میل بیشتری به صاحبش برمی‌گردانند. بنابراین نیل گاندال، سونیا روکاس، لیلاخ ساگیو و امی ورژینوسکی از مدل روانشناختی متمایزتری استفاده کردند، آن را با نظرسنجی از رشته اقتصاد و سایر رشته‌ها آزمون کردند و بنابراین توانستند تناقض ظاهری را حل کنند.

گروه پژوهش، بن‌مایه خودخواهی را به سه جزء تقسیم کردند: دستاورد، لذت‌جویی و قدرت؛ در مورد دگرخواهی، آنها بین همگان‌دوستی و نیکوکاری به نزدیکان تفکیک قائل شدند. نیکوکاران دوست دارند به صورت‌های مختلف به مردم نزدیک به خود کمک کرده و از آنها پشتیبانی نمایند. افراد همگان‌دوست به فکر رفاه و آسایش کسانی هستند که با آنها تماس کمی داشته یا اصلا ارتباطی ندارند. بر اساس یافته‌های تیم پژوهشی، دانشجویان اقتصاد مصرف‌گراتر از دانشجویان سایر رشته‌ها هستند. هم‌چنین کوشش برای رسیدن به قدرت و در فکر دستاوردهای حرفه‌ای بودن در آنها مشهودتر است. علاوه براین، آنها همدردی و همدلی کمتری با آدم‌های ناآشنا دارند.

اقتصاددانان جوان در مورد کسانی که نزدیکشان هستند دقیقا به همان اندازه احساس همدلی دارند که دانشجویان سایر رشته‌ها کمک حال هستند. نویسندگان بررسی در نتیجه‌گیری خود بحث را چنین خلاصه می‌کنند: «اقتصاددان‌ها دوستان یا همسایگان خوبی هستند، اما در مورد رفاه کسانی که بخشی از «درون گروه» آنها نیستند، نسبتا بی‌خیال هستند.» در باقیمانده ملاک ارزشی، تنها تفاوت معنادار این بود که برای اقتصاددانان در قیاس با سایر مردم، سنت اهمیت کمتری داشت.

اینک پرسش بدیهی این است: آیا اقتصاددانان خودخواه‌تر می‌شوند چون که آن‌ها دایما با سازه انسان اقتصادی کشتی می‌گیرند؟ نویسندگان این فرض را رد می‌کنند. آنها در عوض ادعا می‌کنند که چنین پدیده‌ای محصول خودگزینی است- به نظر می‌رسد جوانان با مجموعه ارزش‌های معین، آمادگی و تمایل بیشتری به گرفتن مدرک اقتصاد دارند. آنها این نتیجه را از آنجا گرفتند که واقعیت نشان داد هیچ تفاوت معناداری در قضاوت‌های ارزشی بین دانشجوی ترم اول اقتصاد با دانشجویان دوره تحصیلات تکمیلی نمی‌توان پیدا کرد. به عبارت دیگر، تفاوت دانشجوی اقتصاد با میانگین جامعه در همان سال اول مشهود بود و در طول سال‌های اقتصاد خواندن اصلا قوی‌تر نمی‌شد.

پژوهشگران فرضیه خودگزینی را به وسیله یک پرسش کنترلی آزمون کردند. آنها از دانشجوی سال اولی درباره ارزش‌های خاصی پرسیدند که این دانشجویان به اقتصاددان‌ها ربط می‌دهند. جاه‌طلبی، هوش و موفقیت، ارزش‌هایی بودند که بیش از همه ذکر شدند. آنهایی که علاقه‌مند به خواندن اقتصاد هستند ظاهرا کاملا آگاه هستند که به چه نوع و قماشی از مردم خواهند پیوست.

یک سیاستمدار که با اقتصاددانان مشورت می‌کند و آنها به او توصیه می‌کنند اصلاحاتی به اجرا درآورد که آزادی، فردگرایی و مصرف خصوصی را ترویج می‌کند، اما احیانا نسبت به گروه‌هایی معینی از جامعه سخت می‌گیرد، باید تشخیص دهد قضاوت‌های ارزشی رای‌دهندگان به وی، لزوما با قضاوت ارزشی مشاوران وی یکی نخواهد بود.

سربازان مزدوری که سوار بر آمار هستند

افراد چپ دست با احتمال بیشتری از فشارخون بالا و شیزوفرنی رنج می‌برند اما با احتمال کمتری درد مفاصل و زخم معده می‌گیرند. همه اینها و چیزهای بسیار دیگری را سه اقتصاددان در دانشگاه-های معتبر آمریکایی در بستر بررسی خود با عنوان رابطه «چپ‌دستی و راست‌دستی با درآمد» جای دادند و در نشریه مشهور ژورنال آوفاینانس منتشر کردند. موضوع تحلیل آنها چشم‌انداز درآمدی چپ‌دست‌ها در مقایسه با راست دست‌ها بود: نتیجه: به‌طور متوسط، چپ‌دست‌ها در مقایسه با راست دست‌ها 15 درصد درآمد بیشتر به دست می‌آورند- دست‌کم (و فقط) وقتی آنها مرد باشند و مدرک دانشگاهی داشته باشند.

ژورنال آو فاینانس از اعتبار عالی در بین اقتصاددانان برخوردار بوده و در گزینش مقالات سختگیر و با توقع بالا ملاحظه می‌شود. اما کاملا این امکان هست که نتایج بررسی در نتيجه انجام «داده‌کاوی» حساب شده باشد. این اصطلاحی است که در دوایر آماری برای تحلیل‌های بدون تئوری مجموعه داده‌ها با هدف روشن ساختن ارتباطات بالقوه جالب یا مفید آماری استفاده می‌کنند. اما در این نوع روش یک مشکل وجود دارد: در این نوع کارها اغلب همبستگی‌های آماری اتفاق می‌افتد، اما هیچ رابطه علی وجود ندارد.

دیگر مثال گویا از داده‌کاوی را والتر کرامر ارائه کرده است که پروفسور آمار در دورتموند آلمان بوده و در کتاب خود (چگونه با آمار دروغ بگوییم) همراه با همکارش رالف روند موفق شد تا شواهدی از اثر «تقسیم بر پنج، باقیمانده یک» برای بورس سهام آلمان ارائه نماید: آنها فهمیدند که طی روزهای معین از معاملات در بازار سهام آلمان، بازده‌ها به طرز معناداری بالاتر از سایر روزها است. این روزها عبارت بودند از اول، ششم، یازدهم، شانزدهم، بیست و یکم، بیست و ششم و سی و یکم. آن روزها یک وجه مشترک با هم داشتند که وقتی ماه را تقسیم بر پنج می‌کنیم همیشه باقیمانده یک خواهد بود.

چگونه چنین نتیجه‌ای به دست می‌آید؟ این دو آماردان یک سری «قواعد» مشابه را آزمون کردند از قبیل «تقسیم بر پنج، مانده دو»، «تقسیم بر پنج، مانده سه» و غیر آن. بی‌نهایت بدشانسی خواهد بود اگر حداقل یک نتیجه معنادار در بین آنها ظاهر نشده باشد. منظور ما از «معنادار» این است: اگر آن تاریخ هیچ ربطی به افزایش قیمت سهام پیدا نکند، انحراف مربوطه از مسیر نرمال، با احتمالی نه بیشتر از 1، 5 یا 10 درصد رخ خواهد داد.

داده‌کاوی باعث اختلاف‌افکنی شدید بین طرفداران این علم شده است. بیشتر فروشندگان نرم‌افزار، برنامه‌های پیچیده‌ای برای استفاده از آن عرضه می‌دارند، آنها را به عنوان ابزارهای پژوهشی برای کارهای پر هزینه و پردردسر آماردان‌ها و اقتصادسنجی‌دان‌ها تبلیغ می‌کنند. در دوایر آکادمیک، این برنامه‌ها خریدارانی به ویژه در بخش بازاریابی پیدا کرده‌اند. در آن رشته‌ها، شکار خزاینی از داده‌ها بدون تئوری، یک روش ارزشمند، برای مثال جهت از فیلتر گذراندن الگوهای رفتار خرید از داده‌های مشتریان یک بنگاه است.

برای اقتصاددانان و دانشمندان در بسیاری رشته‌های دیگر، داده‌کاوی یک اصطلاح اهانت‌آمیز است که برای کنار گذاشتن نتایج پژوهش استفاده می‌شود. استدلال آنها به شرح زیر است: هنگام بررسی و رسیدگی تعداد کافی از بلوک‌های داده‌ها به منظور وجود همبستگی‌های احتمالی، محکوم به یافتن همبستگی‌های تصادفی هستید که بتواند از آزمون معنادار بودن آماری سربلند بیرون آید، اما این سطوح معنادار بودن فقط در صورتی معنادار هستند که فرضیه‌ای داشته باشید تا با آن شروع کنیم که بر اساس تعداد اکیدا محدود سری‌های زمانی داده‌ها آزمون کرده‌ایم.
برعکس هنگامی که یک مجموعه داده‌ها متشکل از ده متغیر را با رویکرد داده‌کاوی بررسی می‌کنید و در غیاب محدودیت‌های تئوریک، 45 جفت همزاد پیدا خواهید کرد که می‌توان از جهت همبستگی آماری آزمون کرد.

به گفته جان کوئیگین اقتصاددان استرالیایی و منتقد داده‌کاوی، این معمولا کافی است تا دو یا سه تا از این روابط بر اساس اتفاق صرف، از آزمون معنادار بودن سربلند درآیند. او اشاره می‌کند «اگر به دنبال همبستگی مناسب آماری هستید تا شرایط لازم برای چاپ در نشریات علمی را داشته باشد، این استراتژی معجزه می‌کند. یک مشکل تقریبا حل‌نشدنی در نشان دادن بی‌پایگی رویکردهای داده‌کاوی وجود دارد: وقتی یک دانشمند مقاله پژوهشی تجربی را تحویل می‌دهد، ناممکن است بتوان کنترل کرد که او چه تعداد جریان داده‌ها را تجزیه و تحلیل کرده است، قبل از اینکه همبستگی ظاهرا معنادار را از طریق داده‌کاوی کشف کرده باشد.

اما چگونه داده‌کاوی را ردیابی می‌کنیم؟ با «اثر تقسیم بر پنج، مانده یک» کرامر، یک تبیین تئوریک برای پدیده نامحتمل است و میدان کافی برای حدس و گمان باقی می‌گذارد. با این‌حال درباره بررسی زیر چه بگويیم که وجود اثری از نتایج ورزشی بر جهت حرکت بازار سهام را به اثبات می‌رساند؟ آلکس ادمنز از مدرسه مدیریت اسلوان، دیگو گارسیا از مدرسه بازرگانی توک و ایویند نورلی از مدرسه مدیریت نروژ 1100 مسابقه ورزشی از 1973 به این سو را در 39 کشور ارزیابی کردند. آنچه آنها یافتند این بود که در روز بعد از شکست یک تیم ورزشی ملی، قیمت‌ها در بورس 38/0 درصد پایین‌تر از آنچه که می‌توانست به صورت متوسط انتظار داشت، می‌رسید. در کشورهایی که فوتبال ورزش زیاد محبوبی نیست، آنها اثرات مثبت، اما ضعیف‌تر را در تحلیل از 1500 مسابقه کریکت، راگبی، هاکی روی یخ و بسکتبال یافتند.

آیا این داده‌کاوی است یا پژوهشگران واقعا اثرات خلق و خوی روانشناسانه را در بورس سهام کشف کردند؟ مشاوران کارشناس در ژورنال آوفاینانس ظاهرا به طرفداری از دومی پرداختند. از این گذشته، نویسندگان یک فرضیه علت و معلول تقریبا تامل‌برانگیز ارائه دادند که پدیده را تبیین می‌کند: معامله‌گران و سرمایه‌گذاران هنگامی که خلق و خوی خوبی دارند، تمایل بیشتری به خرید پیدا می‌کنند- در حالی که وقتی حس و حالشان فروکش می‌کند، عقب می‌نشینند. با این حال فقط شکست‌ها، اثر قابل‌سنجشی بر جهت بازار داشت؛ پیروزی‌ها ظاهرا موفق نشد قیمت‌های سهام را به سطح بالاتری برساند.

خواننده منتقد قبل از اینکه زحمت قابل قبول بودن یک یافته را به خود بدهد، باید از خود بپرسد این نویسنده چه تعداد مجموعه داده‌های مشابه در اختیار داشته است به منظور اینکه از بین آنها نتیجه مطلوب نظر خویش را انتخاب کند. در بررسی‌های قیمت سهام، معمولا انبوهی از این داده‌ها وجود دارد.

برای اینکه داده‌کاوی بالقوه را تشخیص دهید، باید این پرسش را از خود بکنید: آیا معقول است که نویسندگان با یک فرضیه شروع کرده‌اند که از جنبه تجربی تایید شد، یا اینکه دقیقا احتمال می‌رود که آنها فرضیه‌ای را پس از برملا شدن یک همبستگی، ساخته یا اصلاح کردند؟ وقتی کسی یک مقاله پژوهشی می‌نویسد و توضیح می‌دهد که مردان چپ دست با تحصیلات دانشگاهی، درآمد بیشتری از راست‌دست‌های با سابقه یکسان دارند، همیشه به خاطر داشته باشید که نویسنده احتمالا همبستگی‌های در رابطه با درآمد زنان، سایر گروه‌های سنی و معمولا همه ترکیب احتمالی ویژگی‌ها را نیز جست‌وجو کرده بوده است؛ اگر فقط یک یا دو تا از این زیرمجموعه‌ها، همبستگی معنادار درآمد و چپ‌دستی را نشان داد، احتمال وجود همبستگی تصادفی بسیار بالا است.

حتی اقتصاددانانی که به کارشناسان در رشته‌های فرعی معین عنایت داشته و خواسته شده بود تا بررسی‌ها در ژورنال‌های اقتصادی تراز اول را نقد و مرور کنند، برخی اوقات مجبور می‌شوند شکست را تایید کنند. یک نمونه روشن، مجادله بر سر این است که آیا افزایش چاقی در آمریکا رابطه علی با کاهش همزمان در سیگار کشیدن داشته است یا خیر. در مقاله‌ای که در نشریه سرشناس ژورنال آو هیلث اکونومیکس منتشر شد، اقتصاددانان بهداشت در MIT جاناتان گروبر و مایکل فریکس یک نتیجه تحلیلی توسط شین پی چو، مایکل گراسمن و هنری سافر که دو سال قبل‌تر در همان نشریه منتشر شده بود «رد» کردند. گروبر و فریکس دنبال این بودند تا ببینند چگونه با پیچاندن و دوباره پیچاندن کاملا معمولی روش‌شناسی می‌توان تاثیر شدیدی بر نتایج اقتصادسنجی گذاشت.

چو و همکاران وی این‌طور فهمیده بودند که گسترش چاقی واقعا اثر جانبی نامطلوب از کمتر سیگار کشیدن است. گروبر و فریکس همان داده‌ها را با استفاده از همان روش‌ها تحلیل کردند و به همان نتایج رسیدند. این مساله دقت فرآیند را تایید می‌کند، اما دقیقا با اندک تغییری در روش‌شناسی، نتایج به هم می‌ریخت.

چو، گراسمن و سافر سطح و تغییر در قیمت سیگار در ایالت‌های مختلف آمریکا را با میانگین وزن ساکنان ایالت‌ها مقایسه کرده بودند. پژوهشگران به شکل ایده‌آل توانستند تاثیر سیگار کشیدن را بر وزن جدا کنند: اگر افزایش فوق‌العاده در قیمت سیگار، با وقوع چاقی به نحو معنادار آماری همراه می‌شد نشانی از رابطه علی بنیادی داشت.

اما به منظور جدا کردن اثر، دانشمندان مجبور شدند طیفی از متغیرهای به اصطلاح کنترلی را وارد کنند. برای نمونه، آنها مجبور شدند داده‌ها برای تمایل کلی به سمت افزایش وزن بدون توجه به عادات سیگار کشیدن را تعدیل کنند، یا برای این واقعیت که چاقی در برخی ایالت‌ها نسبت به سایر ایالت‌ها بیشتر است و دقیقا این جزئیات روش‌شناسی، اهمیت بی‌شماری بر برونداد دارد. یک رویکرد متفاوت که تمایل کلی به سمت چاقی را خنثی می‌کند به تنهایی کافی است تا اثر تسخیر شده آماری قیمت سیگار را به نصف کاهش دهد. با این حال جالب‌تر از همه، اثرات در زمانی هستند که به مالیات تنباکو به جای قیمت سیگار نگاه می‌کنیم: در آن حالت، نتایج حتی معکوس می‌شود- حکایت از اینکه مالیات بیشتر بر تنباکو، چاقی را کاهش و نه افزایش خواهد داد.

علم اقتصادی که منحرف می‌شود

اقتصاددانان در کارهای خود فقط پیچاندن‌های خیلی زیاد انجام نمی‌دهند، برخی اوقات آنها ناغافل قربانی محاسبات اشتباه می‌شوند. یک مثال بدنام شده، مقاله استاد هاروارد مارتین فلدشتاین است که در ژورنال آوپولیتیکال اکونومی در 1974 منتشر شد. فلدشتاین نتیجه گرفته بود که آمریکایی‌ها فقط نصف آنچه را عادت داشتند پس‌انداز کردند که علت آن سیاست‌های اجتماعی دولت آمریکا بود. یکی از تعالیم اصلی میلتون فریدمن ظاهرا تایید شد: مردم مصرف و پس‌انداز خود را در طی چرخه عمر خود به نحو عقلایی بهینه خواهند کرد. حداقل برای شش سال این معتبر بود تا اقتصاددانان دین لیمر و سلیگ لسنوی سعی کردند تا نتایج فلدشتاین را به تفصیل بازتولید کنند.

آنچه آنها یافتند این بود که دانشمند ما در محاسبات خود اشتباه کرده بود. یک خطای برنامه‌نویسی نتایج وی را به شدت به سمت بالا برده بود. فلدشتاين اشتباه خود را تایید کرده
و پوزش خواست.

در حالی که کارشناسان مستقل، مقالات را قبل از انتشار در ژورنال‌های دانشگاهی غربال خواهند کرد، این «داورها» نمی‌توانند هر عدد را تایید کنند، به ویژه از آنجا که روش‌های ریاضی بسیار پیچیده هستند و ماننده همیشه، شیطان اغلب در جزئیات لانه کرده است. بروس مکلوگ پروفسور علوم تصمیم‌گیری در دانشگاه درکسل در فیلادلفیا اشاره می‌کند «از بازبین‌های مقالات معمولا انتظار نمی‌رود که همه رگرسیون‌ها را بازتولید کنند. آنها معمولا به نویسندگان مقاله اعتماد می‌کنند.» کریستوفر فوت و کریستوفر گوئتز دو اقتصاددان در بوستون فدرال رزرو، خطای اساسی دیگری در یک مقاله کاملا شناخته‌شده ديگر پیدا کردند. در بررسی‌‌اي که در کوارترلی ژورنال آو اکونومیکس در 2001 ظاهر شد، اقتصاددانان جان دونوهو و استیون لویت به این نتیجه رسیدند که دلیل اصلی برای افت نرخ جرم و جنایت در آمریکا، روندی که از دهه 1990 شروع شد، قوانین جدید مربوط به سقط جنین بود که در 1973 تصویب شد.

بنابراین استدلال این‌طور ادامه یافت که بچه‌های ناخواسته، اغلب در محیط‌های اجتماعی مشکل‌دار بزرگ می‌شوند و احتمال دارد وقتی به بزرگسالی می‌رسند وارد زندگی جنایتکارانه شوند. فوت و گوئتز اثبات کردند که محاسبات لویت و دونوهو از روش‌های آماری که در متن به عنوان شیوه کار معرفی شده است، منحرف شده بود- داوران کوارترلی ژورنال آو اکونومیک از آن مساله غفلت کرده بودند. آنها وقتی محاسبات را به درستی انجام دادند، متوجه شدند «هیچ شواهد قاطعی نداریم که سقط جنین اثر گزینشی بر جنایت نداشت.» تنها راه یافتن این اشتباهات «دوباره‌سازی» است، آن‌طور که دانشمندان می‌نامند- تلاش از جانب سایر پژوهشگران برای دوباره کاری نتایج یک بررسی با استفاده از همان داده‌ها با داده‌های قابل‌مقایسه. هر چند باید اظهار کرد که اقتصاددانان به ندرت اقدام به آزمون مقالات همکاران خود در داخل و خارج می‌کنند. دانیل هامرمش اقتصاددان دانشگاه تگزاس در اوستین می‌نویسد «اقتصاددانان با دوباره‌سازی به گونه‌ای برخورد می‌کنند که نوجوانان با پاکدامنی برخورد می‌کنند- به عنوان یک ایده‌آل که بر زبان می‌آورند ولی به آن عمل نمی‌کند.»

استان لیبوویتز پروفسور اقتصاد در دانشگاه دالاس در تگزاس، یکی از معدود کسانی است که کار پرزحمت دوباره‌سازی یافته‌های دیگران را انجام می‌دهد. لیبوویتز شروع به زیر و رو کردن مقاله‌ای از دو اقتصاددان به نام فلیکس اوبرهولزر-گی و کولمن استرامپف درباره اثر رد و بدل کردن موسیقی روی فروش سی دی‌های موسیقی کرد که در دانشگاه هاروارد و کانزاس هستند. یافته شگفت‌آور آنها این بود که تقصیر کاهش گسترده فروش صفحات موسیقی را نباید به گردن مبادله موسیقی انداخت؛ این بررسی در ژورنال آو پالتیکال اکونومی منتشر شده بود. صنعت موسیقی که به پیگرد حقوقی مبادله موسیقی و مشتریانی که حق تکثیر را نقض می‌کردند پرداخته بود داد و بیداد راه انداخت.

کار دو پژوهشگر بر اساس آمار داخلی از تعداد بارگذاری‌های موسیقی بود که آنها از مبادله‌های موسیقی به دست آورده بودند. حتی قبل از اینکه نشریه مقاله را به چاپ برساند لیبوویتز با سردبیر مسوول نشریه موضوع را در میان گذاشت. او در نامه‌ای از نویسندگان انتقاد کرد که به‌رغم درخواست‌های مکرر از سوی وی، به او فرصتی ندادند تا نتایج را تایید کند. لیبوویتز از سردبیر خواست که اعمال نفوذ کند و این بازبینی و تحقیق را ممکن سازد. او همچنین وارد بحث درباره نقاط ضعف و تناقضات روش‌شناختی کار ابرهولزرگی و استرامپ شد. سردبیر نامه را نادیده گرفت و بررسی با اندک تغییراتی به چاپ رسید.

لیبوویتز اظهار نظر جامعی درباره مقاله کرد و به آنچه که فکر می‌کرد خطاهای واقعی و ادعاهای گمراه کننده است اشاره نمود. همان سردبیر نشریه که نامه نخست وی را بی‌پاسخ گذاشت اجازه انتشار نظر لیبوویتز را نداد. با اینکه یک داور مستقل از لیبوویتز طرفداری کرد و نتیجه گرفت که ادعاهای مطرح شده نویسندگان با شواهد ارائه شده آنها هم‌خوانی ندارد، اما سردبیر رد کردن مطلب را با گردن کلفتی بیشرمانه همراه کرد. نویسندگان و سردبیر ادعا کردند که لیبوویتز به رگرسیون‌هایی که در کانون مقاله هستند توجهی نکرده است. در شرایطی که رگرسیون به شدت حفاظت می‌شد چون که نویسندگان از ارائه داده‌های رگرسیون خودداری کردند.

این واقعه نمایانگر وجود دو مشکل در صحنه ژورنال‌های اقتصادی است. اکثر ژورنال‌هاي اقتصادي به ندرت به خود زحمت می‌دهند تا ببینند کارهای تجربی منتشرشده اثبات‌پذیر هستند و در نتیجه با معیارهای علمی همخوانی دارند، به‌علاوه، استانداردهای حاکم بر تضاد منافع نسبتا آسان‌گیرتر در قیاس با علوم طبیعی هستند. این حتی در مورد ژورنال‌های درجه یک صادق است. برخی تغییرات در حال انجام است. در 1999، ای دی وینود و بروس مکلاگ سعی کردند تا نتایج همه مقالات در یکی از شماره‌های آمریکن اکونومیک رویو را دوباره‌سازی کنند. AER در آن زمان نویسندگان را موظف می‌کرد که داده‌ها را برای دوباره‌سازی ارائه نمایند. نصف نویسندگان از انجام تعهد خود امتناع کردند. آنها داده‌ها و برنامه‌های کامپیوتری درخواست شده را ارائه ندارند.

سایر ژورنال‌ها حتی سوابق بدتری داشتند. وقتی دو اقتصاددان نتایج‌شان را در سال 2003 منتشر کردند، بن برنانکه ريیس فعلی فدرال رزرو سردبیر AER بود. او با ایجاد یک آرشیو داده‌ها و برنامه‌نویسی‌های اجباری برای AER واکنش نشان داد. سایر ژورنال‌های درجه یک شامل ژرونال آو پالیتیکال اکونومی از آن پیروی کردند. قبل از اینکه مقاله در چنین ژورنالی منتشر شود، نویسنده باید داده‌ها و برنامه کامپیوتری را تحویل نشریه بدهد. نشریه سپس آنها را در اختیار طرف سوم می‌گذارد که خواهان کنترل آنها هستند. اکنون همه چیز بستگی به این دارد که سردبیر چگونه و چه وقت قواعد سفت و سخت را به اجرا می‌گذارد.