فصل نامه اطلاع رسانی وآموزشی و مطالعات رایانه ای علوم اسلامی

اشاره
به‏دنبال انتشار مقاله امكان‏سنجى سيستم خبره فقه در شماره 4 ره‏آورد نور، نوشته حاضر به موانع و مشكلات عام پياده‏سازى سيستم خبره فقه مى‏پردازد؛ موانع عام سيستم خبره فقه، همان محدوديت‏هاى سيستم‏هاى خبره به طور كلى و براهين نظرى و مفهومى عليه هوش مصنوعى مى‏باشند.

مقدمه
يكى از مسائل ضرورى ايجاد سيستم خبره فقه، شناسايى و مقابله با موانع و مشكلاتى است كه در مقابل توليد و توسعه اين سيستم وجود دارد. مشكلات و موانع سيستم خبره فقه را مى‏توان به دو دسته كلى تقسيم نمود: موانع عام كه در خصوص ايجاد هر سيستم خبره‏اى وجود دارد و موانع خاص كه در رابطه وضعيت و محيط ويژه‏اى است كه سيستم خبره فقه براى آن توليد مى‏شود؛ يعنى همان مشكلات ويژه سيستم خبره فقه و علوم مقدماتى آن. اين نوشته تنها به بحث درباره موانع عام اختصاص يافته است و سخن از مشكلات و موانع خاص اين سيستم را به نوشته‏اى ديگر موكول مى‏كنيم.
موانع عام، خود به دو دسته موانع مفهومى و موانع اجرايى تقسيم مى‏شوند:

الف - موانع مفهومى
اين بحث بيشتر در حوزه فلسفه هوش مصنوعى مطرح مى‏گردد. مقصود از موانع مفهومى، همان ادله‏اى است كه از نظرگاه فلسفى براى ردّ و بطلان هوش مصنوعى و سيستم‏هاى خبره ايراد مى‏شود. اين استدلال‏ها بيشتر از سوى فلاسفه‏اى مطرح مى‏شود كه در مورد مدل رايانه‏اى ذهن تحقيق مى‏كنند و در راستاى اين استدلال‏ها، امكان شبيه‏سازى هوش مصنوعى و مدل‏سازى ذهن آدمى را مورد بحث و بررسى قرار مى‏دهند.

مدل رايانه‏اى ذهن
مدل رايانه‏اى ذهن، مسأله كم سابقه‏اى نيست و توجه به تاريخ علم بشر نشان مى‏دهد كه از اواسط قرن هفدهم، بشر در پى عرضه مدلى براى مغز و ذهن آدمى بوده و مدل‏هاى ارائه شده در هر زمان متكى بر آخرين دستاوردهاى علمى آن عصر بوده است.
در اواسط قرن هفدهم هنگامى كه ساعت‏هاى آبى و پمپ‏هاى هيدروليكى آخرين دستاوردهاى علمى شمرده مى‏شدند، دكارت يك مدل هيدروليكى درباره مغز عرضه نمود.
نيم قرن بعد، «لايپ نيتز» فعاليت‏هاى مغز را شبيه به فعاليت يك كارخانه تشبيه نمود؛ فرويد براى توضيح فعاليت‏هاى ذهن از تئورى‏هاى الكترومغناطيس استفاده نمود. پس از او، شرينتون مغز را به يك دستگاه تلگراف تشبيه نمود و با آمدن تلفن و جايگزين شدن آن به جاى تلگراف، خيلى‏ها ادعا كردند كه مغز حالت يك سويچ بُرد را دارد.
بنابراين، عده‏اى بر اين اعتقادند كه اگر الآن ما مغز را به عنوان يك رايانه در نظر مى‏گيريم و اصطلاحاً نرم‏افزار و سخت‏افزار خاص به خود را دارد. اين در واقع، يكى از مصاديق اين تمايل تاريخى است كه سعى كرده است تا مدلى براى مغز ارائه دهد كه همواره منطبق بر آخرين دستاوردهاى علمى باشد. البته گفتنى است كه نقطه خاستگاه عرضه اين مدل در رايانه با مدل‏هاى قبلى متفاوت است.
اما نقطه اختلاف در اين است كه بشر در پى ساختن دستگاهى بوده است كه بتواند هوش آدمى را شبيه‏سازى (Simulate) نمايد. به همين جهت، تمسك به اين مدل نمى‏تواند چيزى خارج از انتظار باشد. زمينه پيدايش تفكر مدل رايانه‏اى ذهن، از حوزه پردازش زبان طبيعى آغاز گرديد. براى روشن شدن مسأله، مثالى از اين صحنه تفكر مطرح مى‏گردد:
وقتى با يك زبان خارجى روبه‏رو مى‏شويم كه هيچ اطلاعى از آن نداريم، اين زيان به صورت يك سرى از سر و صداهاى ممتدى در نظر ما پديدار مى‏شود كه براى ما امكان ندارد تا مشخص نماييم كه كجا اين جملات قطع مى‏شوند؛ اما نسبت به زبانى كه خودتان تكلم مى‏كنيد، مسئله كاملاً فرق مى‏كند و شما به وضوح متوجه مى‏شويد كه جمله كجا تمام مى‏شود و جمله بعد از كجا شروع مى‏شود.
از نظر كسانى كه تئورى يا مدل رايانه‏اى ذهن را مطرح مى‏كنند، اين امر يك مسئله دشوارى است؛ بلكه يك معماست؛ چون اگر بگوييد اين تقطيع؛ يعنى قطع و وصل شدن جملات، صفت عينى محرك‏هايى است كه شما از خارج دريافت مى‏كنيد، در اين صورت اين اشكال ايجاد مى‏شود كه چرا در مورد زبان‏هاى خارجى اين تقطيع را احساس نمى‏كنيم و اگر تقطيع اين جملات صرفاً فرافكنى ذهن است، چطور مى‏توانيم مسئله مزبور را توضيح دهيم. اگر پردازش اين اطلاعات را حاصل درك ناخودآگاه قوانين گرامرى مشترك ندانيم و فهم گرامر را پردازش اطلاعات يكسان در نظر بگيريم، در اين صورت براى اين فعاليت ذهنى يك مكانيسم درونى روان‏شناختى قائل شده‏ايم. جستجو براى پاسخ دادن به اين موضوع كه چه مكانيسم درونى دخالت مى‏كند كه ما چنين دركى داريم، با رشد شاخه‏هاى مختلف علوم وابسته به پروژه هوش مصنوعى، شكوفايى بيشترى پيدا كرد.
هدف پروژه هوش مصنوعى، ساختن ماشين‏هايى بود كه بتوانند رفتار هوشمندانه داشته باشند و يكى از اصول راهنماى پروژه مذكور اين بود كه هر سيستمى كه رفتارش هوشمندانه است، در نهايت، يك سيستم سمبليك فيزيكى است.
بنابراين، در حوزه مكانيسم‏هاى روان‏شناختى از آنجا كه مغز در توليد رفتارهاى هوشمندانه دخالت تام دارد، بايد به مغز به منزله يكى سيستم سمبليك فيزيكى نظر كنيم؛ به بيان ديگر، مغز به عنوان يك رايانه در نظر گرفته مى‏شود و در اين حال، تمامى محاسبات ذهنى چيزى جز دستكارى علائم نيستند. در نتيجه، مى‏توان گفت چيزى به نام «زبان فكر» وجود دارد كه شامل علائمى مى‏باشد كه ذهن در نتيجه تجزيه و تحليل اين علائم، فعاليت‏هاى ذهنى را ايجاد مى‏نمايد، مانند رايانه كه با تجزيه و تحليل رشته‏هاى بيت و بايت فعاليت خود را انجام مى‏دهد. مغز نيز همين كار را با علائمى به انجام مى‏رساند كه اين علائم متعلق به زبان فكر هستند و به صورت بيوفيزيولوژيك در مغز تجسم پيدا مى‏كنند. نتيجه ديگرى كه از پروژه هوش مصنوعى و علوم رايانه‏اى اين رشته به دست مى‏آيد، اين است كه هر سيستمى كه داراى مكانيسم درونى مشابهى باشد -صرف نظر از اينكه از چه ماده‏اى ساخته شده است- بايد هوشمندانه تلقى گردد و اين در واقع، جنبه كاركردى (Functionalistic) تئورى مذكور است كه مباحث زمينه پيدايش مدل رايانه‏اى ذهن را فراهم آورد؛ به اين هدف كه مكانيسم‏هاى درونى را بيابد تا به‏وسيله آنها بتوان فعاليت‏هاى ذهنى را تبيين نمود. پروژه هوش مصنوعى با وجود موفقيت‏هاى بسيار زيادى كه داشته است، خالى از اشكال هم نبوده است.
مسئله چارچوب و برهان اتاق‏چينى، دو اشكال معروف اين پروژه به شمار مى‏آيد:

1. مسئله چارچوب (Frame problem)
پرسشى كه مسئله چارچوب به آن مى‏پردازد، اين است كه آيا مى‏شود انديشه آدمى را در قالب قوانين و قواعد مشخص پى‏ريزى كرد؟
يكى از ويژگى‏هاى رفتار هوشمندانه آدمى اين است كه واكنش مناسبى در برابر شرايط و حوادثى داشته باشد كه به صورت غير مترقبه حاصل مى‏شوند.
به عنوان مثال، وظيفه راننده اتوبوس اين است كه هر روز در مسيرى مشخص حركت كند و در ساعت‏هايى معين در ايستگاه‏هاى مختلف توقف نمايد.
اگر يكى از مسافران دچار سكته قلبى شد، راننده اتوبوس متحير مى‏شود كه آيا مطابق قانون شركت اتوبوسرانى در مسير خود به حركتش ادامه دهد و يا اينكه تغيير مسير دهد و بيمار را به بيمارستان برساند. راننده اتوبوس بر طبق شعور عرفى (Common sense)، اولويت را به رساندن بيمار مى‏دهد و فوراً تغيير مسير مى‏دهد.
حال اگر قرار باشد رايانه جاى راننده را بگيرد، فقط مى‏تواند از قوانين مشخصى كه براى وى برنامه‏ريزى شده است، تبعيت كند و همچون آدمى امكان داشتن يك رفتار انعطاف‏پذير و واكنش انعطاف‏آميز را ندارد.
عده‏اى پاسخ داده‏اند كه اشكال در قوانينى است كه در برنامه‏ريزى مورد استفاده قرار گرفته‏اند. اگر تمامى حالات ممكن و حوادثى كه رخ مى‏دهد، به همراه تبصره‏هايش ضميمه قوانين گردند، آن گاه ماشين نسبت به اين قوانين رفتار انعطاف‏آميزى خواهد داشت.
به اين پاسخ اشكال شده است كه ما در مقابل بى نهايت حالت از شرايط و حوادث غير مترقبه قرار داريم و امكان اضافه كردن اين همه تبصره به قانون اصلى وجود ندارد و حال آنكه انسان‏ها براى تشخيص اين حالت‏ها بر شعور عرفى (Common sense) خود تكيه مى‏كنند.
بنابراين، اگر قرار است كه رايانه‏ها هم بتوانند رفتارى چنين هوشمند؛ يعنى يك رفتار معقول (Rational)داشته باشند، بايد آنها هم داراى اين شعور عرفى باشند. پس تنها راهى كه براى مدافعان هوش مصنوعى وجود دارد اين است كه اين شعور عرفى را به صورت قواعد و قوانين مشخص به رايانه القاء نمايند.
بعضى از فلاسفه مخالف هوش مصنوعى معتقدند كه چنين چيزى امكان ندارد؛ چون شعور و معرفت عرفى علاوه بر آنكه شامل معرفت به حقايق مى‏باشد، شامل نوعى معرفت ديگرى به نام معرفت به چگونگى انجام يك كار (Knowing How) و يا مهارت (Skill) در آن نيز هست؛ يعنى اين كه فرد مهارت انجام يك كار را مى‏داند، مانند اينكه شناگر شيوه شنا كردن را مى‏داند و يا دوچرخه‏سوار براى آموختن مهارت دوچرخه‏سوارى روى قوانين و قواعد خاصى رفتار نمى‏كند؛ بلكه به طريق آزمون و خطا به تدريج كيفيت دوچرخه‏سوارى را مى‏آموزد و اين حالت به صورت مهارت ويژه‏اى در او به وجود مى‏آيد. به هر حال، از آنجا كه اين نوع معرفت، بخشى از شعور عرفى را تشكيل مى‏دهد و قابل بيان بر اساس قواعد و قوانين نيست، نمى‏شود آن را به رايانه سپرد.
در مقابل، مدافعان هوش مصنوعى پاسخ داده‏اند كه اگر چه شناسايى مفروضات اساسى معرفت عرفى و شعور عرفى بشر كار بسيار دشوارى است، اما محال نيست. هم‏اكنون در آمريكا پروژه‏اى به نام CYC در جريان است(1) كه هدف آن شناسايى تمامى مفروضات معرفت عرفى است تا آنها را به صورت قواعد كاملاً مشخصى در اختيار رايانه قرار دهد و تا به حال نيز موفق شده‏اند كه درصدى از اين كار را انجام دهند.
اما فلاسفه مخالف هوش مصنوعى مى‏گويند حتى اگر موفق شويم كه همه مفروضات اساسى معرفت عرفى را شناسايى نماييم، اين تازه فاز اول كار است؛ چون دادن اطلاعات به رايانه و ذخيره كردن اطلاعات در آن به معناى داشتن رفتار هوشمندانه نيست؛ بلكه رايانه بايد بتواند از اين اطلاعات به طور هوشمندانه و صحيح استفاده كند. داشتن يك (Encyclopedia) كافى نيست؛ بلكه بايد بدانيم كه چگونه از آن استفاده نماييم و رايانه چگونگى استفاده از اين را نمى‏داند؛ زيرا به دليل مسئله ارتباط (Relevance) براى رايانه حل نشده است؛ يعنى نمى‏داند كداميك از حقايق به كداميك از حقايق ديگر مربوط هستند و به اين جهت، نمى‏تواند از اطلاعاتى كه در خودش ذخيره كرده است، به درستى استفاده نمايد و در نتيجه، امكان ندارد كه به گونه‏اى هوشمندانه از اين اطلاعات بهره‏بردارى كند. اينكه كدام حقيقت به كدام حقيقت مربوط است، به جهان‏بينى و تصور ما از دنيا بستگى دارد و تصورات ما از دنيا در شرايط زمانى و مكانى مختلف متفاوت مى‏شود؛ مثلاً پاسخ اين سؤال كه «آيا مسئله جنسيت در داشتن حق رأى دخالتى دارد يا نه؟»، در زمان‏ها و مكان‏هاى مختلف متفاوت است. بنابراين، اينكه چه چيزى به چه چيزى مرتبط است، به تصور ما آدميان از دنيا و واقعيات آن بستگى دارد و رايانه نمى‏تواند اين نوع محاوره و داد و ستد اطلاعاتى (Interaction) كه ما با دنيا و محيط اطراف خود داريم، داشته باشد.

2. برهان اتاق چينى(Chiness Room)
مبتكر اين برهان، جان سرل مى‏باشد. هدف اين اشكال توضيح اين معناست كه نمى‏توان رفتارها يا فعاليت‏هاى آدمى را صرفاً با داشتن يك مدل رايانه‏اى ذهن و آنچه را كه متعلق به ذهن است، به دست آورد؛ چون در مدل رايانه‏اى ذهن جايى براى شعور و حيثيت التفات (intentionality) باقى نمى‏ماند.
فرض كنيد كه كسى در يك اتاق دربسته قرار گرفته است و اين اتاق يك دريچه ورودى و يك دريچه خروجى دارد. فردى كه در داخل اتاق قرار گرفته است، به هيچ وجه از زبان چينى اطلاع ندارد. اما داخل اين اتاق يك دفترچه دستورالعمل قرار دارد و يك جعبه از الفباى حروف چينى. از دريچه ورودى نوشته‏اى به الفباى چينى داخل مى‏كنند. اين شخص به دفترچه دستورالعمل نگاه مى‏كند. دفترچه دستور العمل به او مى‏گويد كه هر وقت علائمى با اين مشخصات دريافت كردى، علائمى با فلان مشخصات را از دريچه خروجى خارج كن. بنابراين، اگر جمله‏اى به الفباى چينى از دريچه ورودى وارد شود، مطابق آنچه در دفترچه دستورالعمل آمده است، جمله‏اى به الفباى چينى را از دريچه خروجى خارج مى‏كند. كسى كه بيرون از اتاق ايستاده است، گمان مى‏كند كه اين شخص زبان چينى را مى‏فهمد و دقيقاً به ازاى هر سؤال يا جمله‏اى كه به او مى‏دهد، يك جمله معادلى از سوى او دريافت مى‏كند؛ حال آنكه اين شخص به هيچ‏وجه از زبان چينى اطلاع ندارد و نمى‏فهمد كه دارد چه عملى انجام مى‏دهد.
سرل مى‏گويد: كار اين فرد داخل اتاق، دقيقاً كار ريز پردازنده (CPU) رايانه است و آن دفترچه دستورالعمل، برنامه‏اى است كه به رايانه داده مى‏شود. اين دفترچه دستورالعمل، يك فرهنگ لغت (ديكشنرى) نيست و توضيح نمى‏دهد كه معناى اين حروف چينى چيست؛ اين دفترچه فقط به شما مى‏گويد كه اگر حروفى را با اين شكل دريافت كرديد، حروف ديگرى را با شكل‏هاى ديگر خارج كنيد؛ به عبارت ديگر، رايانه فقط به شكل علامت حساسيت دارد. بنابراين، برخلاف تصور ناظر خارجى، اين شخص زبان چينى را نمى‏فهمد و بنا به ادعاى سرل به همين گونه هيچ‏يك از فعاليت‏هاى ريانه‏اى داراى صفت التفات (intentionality) نمى‏باشد؛ برخلاف آنچه در مورد ذهن آدمى مشاهده مى‏شود.
يكى از اشكال‏هايى كه به اين برهان گرفته‏اند، به «اشكال سيستم» معروف است. در اين اشكال، مى‏گويند ما قبول داريم كه اين شخص زبان چينى را نمى‏فهمد و متوجه نيست كه دارد چه كارى انجام مى‏دهد؛ اما اين شخص نيست كه بايد زبان چينى را بفهمد؛ بلكه اين كل سيستم است كه زبان چينى را درك مى‏كند؛ به عبارت ديگر، آنچه مدافعان هوش مصنوعى مى‏گويند، اين است كه مجموعه سيستم مى‏فهمد و درك مى‏كند و CPU فقط يكى از اجزاى رايانه است و نه تمامى آن.
سرل در مقابل اين اشكال پاسخ زيركانه‏اى مى‏دهد. او مى‏گويد: بياييد فرض كنيم كه فعاليت‏هايى را كه در اين اتاق صورت مى‏گيرد، درونى كنيم (internalize)؛ يعنى فرض كنيم كه اين شخص داخل اتاق تمامى دفترچه را به خاطر سپرده باشد و با شنيدن صدا، طبق دفترچه ذهنى خود واكنش نشان مى‏دهد؛ اما باز زبان چينى را نمى‏فهمد. او با گوش دادن به سر و صداهايى كه از دريچه ورودى مى‏آيد، سر و صداهاى ديگرى به عنوان جواب اعلام مى‏نمايد. از نظر ناظر بيرونى، اين شخص يك فرد مسلّط به زبان چينى به نظر مى‏رسد؛ در حالى كه به واقع اين گونه نيست. سرل در انتها مى‏گويد: راه حل سيستم، راه حل قانع‏كننده‏اى نيست. بنابراين، فعاليت‏هاى رايانه هيچ جنبه التفات (intentionality)و شعور (Conscience) را دارا نمى‏باشد.

پاسخى عام به موانع مفهومى هوش مصنوعى
با دقت در مفاد اشكال اتاق چينى و مسئله چارچوب متوجه مى‏شويم كه در بسيارى از نقض و ابرام‏ها سر بى صاحب تراشيده مى‏شود. در ابتدا، ضرورى است مراد و مفهوم هوش انسانى و هوش مصنوعى روشن شود تا به‏خوبى موضع نزاع مشخص گردد.
هوش به يك معنا در تمامى موجودات عالم سارى و جارى است. بنا به مفاد آيات و روايات و ديدگاه صدرالمتألهين در اسفار تمامى موجودات جهان داراى شعور و آگاهى مى‏باشند و همه موجودات اعم از حيوانات، نباتات و جمادات مى‏توانند شاهد اعمال انسان‏ها باشند و حتى افكار درونى و نيت‏هاى انسان‏ها را متوجه شوند و هنگامه قيامت در محكمه عدل الهى در مورد كارهاى آنها شهادت دهند و بسى روشن است كه گواهى دادن، فرع بر آگاهى و شعور است. قدر مسلم اين است كه اين معناى از آگاهى و هوش در اينجا مراد و مقصود ما نيست.
اما هوشمندى به معناى انسانى آن، امرى مخصوص مجردات است و اصلاً در عالم ماده، فرض هوش انسانى راه ندارد. همچنان كه حكمت متعاليه(3) در تعريف علم مى‏گويرد: «العلمُ هُوَ حُضور مُجرّدٍ عِنْدِ مُجَرّدٍ». اما با توجه به اينكه در حكمت متعاليه، نفس جسمانيه الحدوث است، به لحاظ فلسفى مى‏توان احتمال داد كه انسان از رهگذر ژنتيك تكاملى بتواند به موجودات هوشمند مصنوعى دست پيدا كند؛ به بيان ديگر، اگر علم و دانش بشر بتواند روند طبيعى را كه ماده در عالم طبيعت بر اساس قوانين الهى طى مى‏كند تا به يك موجود مجرد تبديل شود و توانايى شناخت خود و جهان خارج از خود را دارا گردد، كشف نمايد، از نظرگاه فلسفى محال نيست كه بتوان اين روند طبيعى را سرعت بخشيد؛ مثلاً روندى كه چند ميليارد سال روى زمين طول مى‏كشد، در عرض چند ماه يا حتى چند روز بپيمايد و به يك موجود هوشمند مصنوعى برسد. از آنجا كه شيوه توليد آن طبيعى نبوده است، مصنوعى ناميده مى‏شود، هرچند در اين ميان از قوانين طبيعى نيز استفاده شده است.
ايجاد چنين موجود هوشمندى، از نظر فلسفى محال نيست؛ اما اين موجود هوشمند ايجاد شده مانند رباتى نخواهد بود كه در كنترل ما باشد؛ بلكه همانند هر موجود هوشمند ديگرى به طور مستقل عمل خواهد كرد. واضح است كه چنين معنايى از هوش مصنوعى نيز مراد و مقصود ما نمى‏باشد.
بعضى معيار هوشمند بودن يك برنامه رايانه‏اى را غير الگوريتمى بودن آن مى‏دانند؛ به اين بيان كه هر برنامه‏اى كه الگوريتميك باشد و روند مشخص و ثابتى داشته باشد، غير هوشمند است؛ اما برنامه‏اى كه در آن روند مشخصى طى نمى‏شود و طبيعتى متغير و احتمالى دارد، برنامه‏اى هوشمند مى‏باشد.
آيا مى‏توان معيار هوشمند بودن يك برنامه را صرفاً غير منطقى بودن و الگوريتم نداشتن آن دانست؟ سيستم خبره معمولاً در جايى مطرح مى‏شود كه طبيعت مسئله يك مسئله غير قطعى و احتمالى باشد و يا اينكه اگر داراى طبيعت قطعى است، موضوع آن قدر پيچيده است كه هزينه استفاده از الگوريتم‏هاى قطعى به اندازه‏اى بالا مى‏گيرد كه استفاده از آنها مقرون به صرفه نيست.
البته ما در اينجا در صدد تعريف هوش نمى‏باشيم؛ زيرا هوش آدمى خود از مقوله‏هاى ناشناخته علوم بشرى محسوب مى‏شود. تنها براى روشن شدن بحث در موانع مفهومى، اندكى به تعريف، كاربرد و موارد استفاده هوش مى‏پردازيم.
آنچه در پروژه هوش مصنوعى به دنبال آن هستيم، نوعى هوشمندى واقعاً مصنوعى است. مصنوعى به اين معنا كه ماشين بدون هيچ گونه آگاهى علمى، كار هوشمندانه‏اى را انجام مى‏دهد و هوشمندى آن تنها در اين حد است كه عمل ماشين از ديدگاه ناظر بيرونى هوشمندانه تلقى مى‏شود و اما خود ماشين هيچ علم و اطلاعى به اين فرآيندى كه خود مجرى آن است، ندارد؛ همان گونه كه وقتى مى‏گوييم رايانه داراى چنين اطلاعاتى است، يعنى اين اطلاعات در حافظه جانبى رايانه قرار دارد، نه اينكه رايانه واقعاً نسبت به اين اطلاعات مطلع باشد. پس هوش مصنوعى معنايى از هوش نيست كه ماشين آگاهانه بداند چه مى‏كند؛ بلكه اين معنا كه هر جا سيستم به صورت اضطرارى كارهايى را انجام مى‏دهد كه از ديدگاه ناظر خارجى هوشمندانه محسوب شود، مورد بحث ماست. بنابراين، همان نقطه‏اى را كه جان سرل در صدد اشكال به آن بود، ما مى‏پذيريم و همين مقدار شبيه‏سازى عمل هوشمندانه براى ما كافى است و مقصود از هوش مصنوعى را برآورده مى‏سازد. ماشينى كه از يك طرف كلمات چينى به او داده مى‏شود و بر اساس يك سرى دستور العمل‏ها و يك سرى حروف الفباى انگليسى جملاتى را به زبان انگليسى تنظيم مى‏نمايد كه ترجمه آن، جملات چينى است، براى ما كافى است كه آن ماشين را هوشمندانه تلقى كنيم. مقصود سرل از نفى هوش در اينجا، هوش به معناى بشرى‏اش مى‏باشد كه همراه با علم و آگاهى و صفت التفات (intentionality)است.
ماشينى كه در بازى شطرنج از كاسپاروف مى‏برد، عمل هوشمندانه‏اى انجام داده است، هرچند خود به آن التفات و آگاهى نداشته باشد. تنها هوش مصنوعى به اين معناست كه قابل كنترل مى‏باشد؛ اما هوش انسانى مصنوعى آزمايشگاهى به معنايى كه پيش‏تر توضيح داديم، قابل كنترل نيست و در اختيار ما قرار ندارد.
به اين ترتيب، رايانه اگر فرضاً بخواهد بر اساس مبانى شيخ انصارى اجتهاد نمايد، نه مبانى شيخ انصارى را مى‏فهمد و نه سؤال و عبارتى كه ما به او مى‏دهيم و نه پاسخ‏هايى را كه ارائه مى‏دهد، درك مى‏كند؛ اما از ديد ناظر بيرونى بر اساس مبانى شيخ انصارى اجتهاد مى‏كند. حال اگر چنين سيستم هوشمندى را طراحى نموديم و تعريف هوش به اين معنا را پذيرفتيم، بايد ماشين كار يك فرد خبره هوشمند طبيعى را تقليد نمايد، مانند ماشين مترجم كه با مترجم طبيعى فرق دارد؛ مترجم طبيعى مفهوم كلمات را مى‏فهمد؛ ولى مترجم ماشينى معانى واژه‏ها را درك نمى‏كند و فقط مى‏داند كه اين الفاظ در اين جمله چه معنايى دارند و صرفاً كار شبيه‏سازى را انجام مى‏دهد.

ب - موانع اجرايى
در بخش پايانى اين نوشتار، به مشكلاتى كه در مورد ايجاد هر سيستم خبره‏اى وجود دارد، اشاره مى‏نماييم. فرايند تبديل دانش يك فرد خبره به سيستمى رايانه‏اى كار آسانى نيست و موانعى چند را به دنبال دارد:
1. ساخت يك سيستم خبره درخور توجه ممكن است نيازمند چندين سال تلاش مستمر و نيروى عديده انسانى باشد. فرآيند استخراج تخصص از فرد متخصص (Knowledge Elicitation) و بررسى روش مفيد براى ارائه آن به كاربر، بيشترين زمان را به خود اختصاص مى‏دهد.
2. در آغاز آنچه متخصص مى‏گويد، طبيعتى فهم ناشدنى دارد. متخصصان فكر مى‏كنند كه درباره موضوع مورد بحث خود به روشنى و سادگى پاسخ مى‏گويند؛ در حالى كه نه تنها اصطلاحات آن تخصص گيج‏كننده است، بلكه چگونگى هماهنگى آنها با هم نيز چنين است.
3. فرد متخصص قادر به ارائه مدلى از دانش و مهارت خود نمى‏باشد. در بسيارى از موارد بر دانش پنهان خود تكيه مى‏كند و نزد خود او مسلم و مفروض است.
4. در بسيارى از مسائل كلان، شخص خبره قادر به تقسيم مسئله به مسائل كوچك‏تر نمى‏باشد.
5. شخص خبره عموماً تصميمات خود را به صورت تخمينى و بدون تعريف مقادير خاص بيان مى‏كند.
6. روند يادگيرى خبره از محيط، در اثر مرور و ممارست بوده است و ضابطه‏مند كردن اين روند، بسيار مشكل است.
- شعور عرفى و عمومى فرد خبره به تدريج افزايش يافته است. به اين جهت، خود شايد نتواند روش استنتاج و استدلال خبره‏هاى آن فن را بيان كند؛ چون هيچ‏گاه در صدد برنيامده است كه از زاويه بيرونى به تخصص خود و خبره‏هاى همگن خود نگاهى داشته باشد.
همچنين عدم وجود ابزار مناسب براى دريافت و نمايش دانش خبره، از جمله مشكلاتى است كه عموماً در مسير ايجاد هر سيستم خبره‏اى وجود دارد.