כוחה של אתיקה בהנדסה

האופן שבו הטכנולוגיה מעצבת את חיי היום-יום שלנו מאתגר את האופן הפילוסופיה הבסיסית של הקיום האנושי, בתקופה שבה תוכנות מתקדמות הפילוסופיה הבסיסית של הקיום האנושי ,בתקופה שבה תוכנות מתקדמות מחליפות את כישורי האינטראקציה האנושית. ויכוחים רבים מתקיימים ביותר מחליפות את כישורי האינטראקציה האנושית .ויכוחים רבים מתקיימים ביותר האתית בטכנולוגיות אלה ועל הסטנדרטים המוסריים של על התמיכה האתית בטכנולוגיות אלה ועל הסטנדרטים המוסריים של על התמיכה תוכנה ואתיקה משיקים זה לזו כאשר מפתחים מוצרים כאלה. פיתוח תוכנה ואתיקה משיקים זה לזו כאשר מפתחים מוצרים כאלה .פיתוח על מוצרי תוכנה במהלך שלבי התכנון, הפיתוח, מקבלים החלטות מקצועיות על מוצרי תוכנה במהלך שלבי התכנון ,הפיתוח , מקבלים החלטות מקצועיות אלה עשויות להשפיע על חיי בני אדם הן הבדיקה והתחזוקה. החלטות אלה עשויות להשפיע על חיי בני אדם הן הבדיקה והתחזוקה .החלטות והן בפרטי. מאחר ששיפוטים טכניים יכולים להשפיע על במרחב הציבורי והן בפרטי .מאחר ששיפוטים טכניים יכולים להשפיע על במרחב הציבורי החלטות טכניות אלה, הקשורות קשר הדוק לאתיקה של ערכים אנושיים, החלטות טכניות אלה ,הקשורות קשר הדוק לאתיקה של ערכים אנושיים , מקור נסתר של כוח בארגונים. תוכנה, הן מקור נסתר של כוח בארגונים.

גם עבור מקצועות מסורתיים כמו רפואה ,משפטים ,פסיכותרפיה והנדסה ,קשה להגדיר את המילה” מקצועי ,”בעיקר מכיוון שחברות ותרבויות שונות מתייחסות למונח באופן שונה .עם זאת ,באופן כללי יש הסכמה על מאפיינים המשותפים לכל המקצועות ; למשל ,המילון של אוקספורד מגדיר” מקצוען “כ”אדם העוסק או המוסמך במקצוע מסוים .”מומחיותם של אנשי המקצוע ,והתחומים שבהם הם מיישמים מומחיות זו , מעניקים להם כוח לשפר את רווחתם של אנשים או לגרום נזק משמעותי.

לאיכות יש השפעה עצומה על האופן שבו מוצרים ושירותים מעצבים את חיי היומיום שלנו .טעויות בתכנון מוצר מתרחשות בצורות רבות .זה קורה אפילו לעסקים המצליחים ביותר ,למשל ,ההאצה הבלתי מכוונת של טויוטה .זה כשלעצמו מדגיש את חשיבות לקיחת האחריות של מהנדסים על תפקידם המקצועי .מכיוון שהמהנדסים ברובם מתנהלים באופן עצמאי ,הם עשויים לתכנן פתרונות שונים לאותן בעיות ,מה שמוביל לתוצאות לא מספקות .

הבעיה מתחילה בכך שלאיכות משמעויות שונות לאנשים שונים . חלקם מגדירים איכות כעמידה ביעד מוגדר שמתבטא בשביעות רצון הלקוחות ,בעוד ISO 9126 שוויינברג הגדיר את האיכות כערך שמעניק דבר-מה לקבוצת אנשים ,ואילו דנו באיכות כתכונות של מוצר המסוגלות לספק צרכים ספציפיים .ברור מאליו שאיכות היא מונח לא חד משמעי.

שיקולים אתיים הם השיקולים העיקריים בפתרון בעיות תכנון בהנדסה ,אחד היסודות של תחום זה .אף בעיית תכנון אינה מצריכה פתרון מסוים מכיוון שהפער בין בעיה לפתרון מותנה ברוב המקרים במהנדס ונקבע על ידו .פער זה אומר שכלים אתיים צריכים להשתלב בליבת ההנדסה בשלבים הראשונים של התכנון .חשבו על האפשרות שמהנדס יישם פתרון שעלול לגרום נזק מיותר ללא כל כוונה ראשונית .עם זאת ,כלים אתיים דורשים תשומת לב .כשמדובר בפתרון למכשול עיצובי ,מהנדסים ,באופן רציונלי , נוטים להשתמש בידע ובמיומנויות המומחה שלהם כדי לטפל בבעיות .ידע זה בדרך כלל הצטבר מניסיון העבר בפתרון בעיות ,וניסיון זה אינו תמיד רלוונטי לכל המקרים , בגלל אתגרים טכנולוגיים חדשים והמיומנויות הטכניות הנדרשות .כדי להימנע מגרימת נזק בלתי צפוי ,מהנדסים עורכים שיקולים אתיים .באופן זה ,כלים אתיים נכנסים לליבת .(NSPE, 2007) ההנדסה

מהנדסים מיומנים לחשוב בצורה אנליטית ולבסס את החלטותיהם הטכניות על עובדות ומחקר רלוונטי .עם זאת ,מהנדסים נתקלים במצבים רבים הכרוכים בשאלות אתיות במהלך פעילותם היום יומית .חוקרים בתחומי הנדסה גיבשו קודים והנחיות כדי להדגיש — שונים כדי ליידע מחנכים וגופים מקצועיים מהי אתיקה ,והחשוב מכול ” .(האתיקה ,”כפי Gottenbarn, 2002) את הערך שהיא מביאה לתהליך ההנדסה בפועל שהיא מוצגת כאן ,מתייחסת למעשים אנושיים מכוונים ,המשפיעים על חייהם וערכיהם של אחרים .ניתן לתאר את הקשר בין מהנדסים לאתיקה כמתרחש כאשר מהנדסים מקבלים החלטות מקצועיות לגבי מוצרים ,במהלך שלבי התכנון ,הפיתוח ,הבדיקה או התחזוקה .החלטות אלה משפיעות על חייהם של אנשים ,כך משפיעים שיפוטים טכניים על ערכי האדם וקשורים לאיכות המוצר .כאשר הוא

מתמודד עם דילמה אתית ,איש מקצוע חייב להיות מסוגל לקבל החלטות רציונליות ובעלות מניע איתן. נמצאות בשלב של קידום ואימוץ מהירים ,בעקבות התפתחויות AI כיום ,טכנולוגיות במתמטיקה ובמדעי המחשב ,וכן בכוח המחשוב וביכולת לאסוף ולאחסן כמויות (מבוססת על קשרים סטטיסטיים שמתגלים AI) גדולות של נתונים .בינה מלאכותית באמצעות כמויות גדולות של נתונים ,בתוספת כללים אלגוריתמיים של הנמקה ולמידה או תיקון עצמי ,שלאחר מכן מיושמים בצורה מדויקת ,אמינה ואחידה בקבלת , בחיי היומיום שלנו אפילו בלי לחשוב על כך .למשל AI- החלטה .אנו משתמשים ב ,איתור דואר ספאם בתיבת הדואר הנכנס שלנו ,קבלת תוצאות חיפוש Waze- ניווט ב רלוונטיות ואפילו מודעות רלוונטיות בגוגל או בפייסבוק ,או המלצות בהתאמה אישית ברשת נטפליקס או באמזון .אפילו כלקוחות ,אנו לא עוצרים וחושבים כיצד חברות היא המדע וההנדסה של יצירת מכונות חכמות ,במיוחד AI . משתמשות בנתונים שלנו תוכנות מחשב אינטליגנטיות .היא קשורה למשימה של שימוש במחשבים להבנת אינה רק טכנולוגיה חדשה הדורשת רגולציה ,אלא היא AI . האינטליגנציה האנושית כוח רב עוצמה המעצב מחדש פרקטיקות יומיומיות ,אינטראקציות אישיות ומקצועיות וסביבות שלמות .לטובת האנושות ,חיוני שכוח זה ישמש למטרות טובות.

פיתוח תוכנה משיק לעולם האתיקה כאשר מפתחים מקבלים החלטות מקצועיות לגבי מוצרי תוכנה בשלב התכנון ,הפיתוח ,הבדיקה או התחזוקה .החלטות אלה יכולות להשפיע על חייהם של האנשים הן בתחום הציבורי והן בתחום הפרטי .מכיוון שהחלטות טכניות יכולות להשפיע על ערכים אנושיים ,החלטות אלה ,הקשורות לאתיקה בתוכנה , מהוות מקור כוח בחברות ובארגונים.

אתיקה ממלאת תפקיד מפתח בתהליך זה .כתוצאה מכך ,יש שטענו כי הקפדה על ויכולה גם להפחית את AI עקרונות אתיים יכולה להבטיח את היישום האתי של .(ועדות כאלה ואחרות בנו מסגרות אתיות Cowls & Floridi, 2018) הסיכונים שלה המלוות בשאלות תואמות שנועדו לספק הנחיות לאופן שבו ניתן ליישם עקרונות אלה .(יש להניח כי ניתן Machine Intelligence Garage Ethics Committee, 2018) בפועל להשתמש בשאלות אלה בישיבות תכנון פרויקטים לפני תחילת תהליך הפיתוח ,כדי להתמודד עם דילמות אתיות .אולם הנושא מורכב יותר ודורש תשובות חברתיות . לשיטור שמכוונת לגברים ממוצא מסוים AI ואתיות מהותיות .שקלו ,למשל ,מערכת גם אם מערכת כזו מוכיחה עצמה כיעילה מאוד בהפחתת הפשיעה ,היא מבוססת על הטיות שיש לטפל בהן מבחינה חברתית-אתית ולא רק מבחינת יעילות טכנולוגית.

דוגמה נוספת ,אם נפנה לתחום הכספים :תהליכים פיננסיים שחייבו באופן מסורתי ,בעיקר כשמדובר AI קבלת החלטות אנושיות מוחלפים או נתמכים יותר ויותר על ידי באישור או סירוב של עסקאות פיננסיות ,גילוי ומניעת הונאה וניהול סיכונים כללי . התפתחויות טכנולוגיות חדשניות והגישה מבוססת-הנתונים הננקטת על ידי חברות .(עם זאת ,כפי Crawford & Calo, 2016) בתחוםAI- פיננסיות רבות תורמות לעליית ה שטוענים קרופורד וקאלו: לא תהיה בהכרח גרועה יותר ממערכות המופעלות על ידי בני אדם בקבלת AI” יכולה לסייע AI תחזיות והחלטות מנחות .עם זאת ,בעוד המהנדסים אופטימיים כי באיתור והפחתת הטיות אנושיות ודעות קדומות ,מחקרים מצביעים על כך שבהקשרים מוטות באופן שאינו פרופורציונלי נגד קבוצות שממילא AI עכשוויים ,מערכות מוחלשות מסיבות כמו גזע ,מין ורקע חברתי-כלכלי.”

תוצאות כאלה עשויות להסתיים בהפסדים כספיים של שני הצדדים ובחוויית שירות באיכות נמוכה.

מבחינה היסטורית ,תפקידים הנדסיים הדגישו רק מיומנויות הנדסיות ,למשל ,פיתוח קוד קל לתחזוקה ,והצגת הפתרונות הטכניים הטובים ביותר לכל האתגרים הטכניים העומדים בפני הארגון .עמידה מול לקוחות חיצוניים נדרשה רק מממשקים של תמיכת עסקים או לקוחות ,נוסף על האינטרס הציבורי שנגזר רק מהאמונות ומהאסטרטגיות של הארגון .בימינו ,הציפייה היא כי מהנדסי תוכנה יביאו פרספקטיבה משלהם על ערכים עסקיים על ידי כך שיהיו מוכווני-לקוחות ולא רק יתנהלו כמומחים טכניים . אתיקה יכולה לתמוך באנשי מקצוע באשר היא מציעה כלים ושיטות מועילים במצבים כאלה.

 

המאמר פורסם לראשונה ב-Afeka Journal of Engineering and Science, בגיליון ספטמבר 2019