A Gift of Fire: Social, Legal, and A Gift of Fire: Social, Legal, and Ethical Issues for Computers and Ethical Issues for Computers and

the Internetthe Internet(2nd Edition)(2nd Edition)

byby Sara Baase Sara Baase

A Gift of FireA Gift of FireCan We Trust the Computer?Can We Trust the Computer?

– Apa yang dapat menjadikan salah?Apa yang dapat menjadikan salah?

– Peningkatan Keandalan dan KeamananPeningkatan Keandalan dan Keamanan

– Perspektif pada Kegagalan, Ketergantungan, Perspektif pada Kegagalan, Ketergantungan,

Resiko, dan Pertumbuhan Resiko, dan Pertumbuhan

– Model KomputerModel Komputer

What Can Go Wrong?What Can Go Wrong?

Facts About Computer ErrorsFacts About Computer ErrorsKesalahan pada Kesalahan pada free softwarefree software bisa bisa terjadi.terjadi.

Kesalahan seringkali disebabkan oleh Kesalahan seringkali disebabkan oleh lebih dari satu faktor.lebih dari satu faktor.

Kesalahan dapat dikurangi dengan Kesalahan dapat dikurangi dengan mengikuti prosedur yang baik dan mengikuti prosedur yang baik dan praktik profesional.praktik profesional.

What Can Go Wrong?What Can Go Wrong?Peranan Manusia dalam Masalah yang Peranan Manusia dalam Masalah yang

berhubungan dengan komputer:berhubungan dengan komputer:– UserUser Komputer Komputer

Di rumah atau kerja, Di rumah atau kerja, usersusers seharusnya memahami seharusnya memahami keterbatasan komputer dan kebutuhan pelatihan keterbatasan komputer dan kebutuhan pelatihan yang tepat dan penggunaan yang bertanggung yang tepat dan penggunaan yang bertanggung jawab.jawab.

– Computer ProfessionalComputer ProfessionalMemahami sumber dan konsekuensi dari kesalahan Memahami sumber dan konsekuensi dari kesalahan komputer sangat bermanfaat apabila membeli, komputer sangat bermanfaat apabila membeli, mengembangakan, atau mengelola sistem yang mengembangakan, atau mengelola sistem yang kompleks.kompleks.

– Mengajari Anggota Masyarakat Mengajari Anggota Masyarakat Keputusan personal dan keputusan politik, sosial, dan Keputusan personal dan keputusan politik, sosial, dan ethik tergantung pada pemahaman pada resiko ethik tergantung pada pemahaman pada resiko komputer.komputer.

What Can Go Wrong?What Can Go Wrong?Kategori dari Kesalahan dan Kegagalan Kategori dari Kesalahan dan Kegagalan

KomputerKomputer– Masalah untuk Individu:Masalah untuk Individu:

Seringkali peran mereka sebagai konsumen.Seringkali peran mereka sebagai konsumen.Yang diidentifikasikan tidak tepat oleh Yang diidentifikasikan tidak tepat oleh law law enforcement databasesenforcement databases..

– Kesalalahan Sistem:Kesalalahan Sistem:Memberi dampak pada sejumlah besar orang Memberi dampak pada sejumlah besar orang dan/atau mengeluarkan biaya yang besar (dan/atau mengeluarkan biaya yang besar (costing costing large amounts of moneylarge amounts of money).).

– Safety-Critical ApplicationsSafety-Critical Applications::Dimana orang mungkin terluka atau terbunuh.Dimana orang mungkin terluka atau terbunuh.

Masalah bagi IndividuMasalah bagi Individu– Kesalahan Pembayaran (Kesalahan Pembayaran (Billing ErrorsBilling Errors))

Kurangnya tes untuk ketidak konsistenan Kurangnya tes untuk ketidak konsistenan dan ketidak tepatan jumlah.dan ketidak tepatan jumlah.

– Masalah akurasi Database Masalah akurasi Database informasi yang salah menyebabkan informasi yang salah menyebabkan perlakuan atau tindakan yang salah.perlakuan atau tindakan yang salah.

What Can Go Wrong?

Masalah bagi Individu Masalah bagi Individu (lanjutan)(lanjutan)– Penyebab:Penyebab:

Penduduk yang besar.Penduduk yang besar.

Kebiasaan yang lazim dari manusia bukan Kebiasaan yang lazim dari manusia bukan bagian dari otomatisasi pemrosesan.bagian dari otomatisasi pemrosesan.

Terlalu percaya pada keakuratan data yang Terlalu percaya pada keakuratan data yang berasal dari komputer.berasal dari komputer.

Kesalalahn dalam Kesalalahn dalam data entrydata entry..

Informasi tidak di-Informasi tidak di-updatedupdated atau dikoreksi atau dikoreksi

Kurangnya tanggung jawab untuk suatu Kurangnya tanggung jawab untuk suatu kesalahan (kesalahan (Lack of accountability for errorsLack of accountability for errors).).

What Can Go Wrong?

Kegagalan Sistem Kegagalan Sistem – Komunikasi:Komunikasi:

Telephone, online, Telephone, online, dandan broadcast services broadcast services..

– Bisnis:Bisnis:Inventory and management softwareInventory and management software..

– Keuangan:Keuangan:Stock exchange, brokerages, banks, etcStock exchange, brokerages, banks, etc..

– Transportasi:Transportasi:Reservations, ticketing, and baggage Reservations, ticketing, and baggage handlinghandling..

What Can Go Wrong?

Kegagalan Sistem Kegagalan Sistem (lanjutan)(lanjutan)– Penyebab:Penyebab:

TestTest yang tidak cukup dan yang tidak cukup dan debugging timedebugging time..

Perubahan penting pada spesifikasi (selama Perubahan penting pada spesifikasi (selama dan sesudah mulainya proyek).dan sesudah mulainya proyek).

Terlalu percaya pada sistem.Terlalu percaya pada sistem.

MismanagementMismanagement dari proyek. dari proyek.

What Can Go Wrong?

Safety-Critical ApplicationsSafety-Critical Applications– MiliterMiliter– Tenaga Listerik Tenaga Listerik – Kapal terbang Kapal terbang – Kereta Api Kereta Api – Pabrik yang Terotomatisasi (Pabrik yang Terotomatisasi (Automated Automated

FactoriesFactories))– KesehatanKesehatan– ……Lainnya.Lainnya.

What Can Go Wrong?

Safety-Critical ApplicationsSafety-Critical Applications– Penyebab:Penyebab:

Terlalu Percaya (Terlalu Percaya (OverconfidenceOverconfidence).).

Kurangnya gambaran yang ditolak (Kurangnya gambaran yang ditolak (Lack of Lack of override featuresoverride features).).

Tes yang kurang cukup (Tes yang kurang cukup (Insufficient testingInsufficient testing).).

Tipisnya kompleksitas sistem (Tipisnya kompleksitas sistem (Sheer Sheer complexity of systemcomplexity of system).).

Mismanagement.Mismanagement.

What Can Go Wrong?

Studi Kasus: The Therac-25Studi Kasus: The Therac-25Atomic Energy of Canada LimitedAtomic Energy of Canada Limited (AECL) (AECL)

The Therac-25 adalah mesin The Therac-25 adalah mesin software-software-controlled radiation-therapycontrolled radiation-therapy yang yang digunakan untuk merawat orang digunakan untuk merawat orang yang terkena kanker (yang terkena kanker (used to treat used to treat people with cancerpeople with cancer). (1985 – 1987)). (1985 – 1987)– OverdosesOverdoses dari radiasi dari radiasi

Normal dosageNormal dosage adalah 100–200 adalah 100–200 radsrads..Diperkirakan 13,000 dan 25,000 Diperkirakan 13,000 dan 25,000 radsrads diberikan kepada enam orang.diberikan kepada enam orang.Tiga di antara enam orang tadi meninggalTiga di antara enam orang tadi meninggal

Studi Kasus: The Therac-25Studi Kasus: The Therac-25

Therac-25 Radiation OverdoseTherac-25 Radiation Overdose– Penyebab banyak:Penyebab banyak:

DesignDesign keamanan yang jelek. keamanan yang jelek.

Testing and debuggingTesting and debugging yang kurang cukup. yang kurang cukup.

Kesalahan Kesalahan SoftwareSoftware..

Kurangnya Kurangnya safety interlockssafety interlocks..

Terlalu percaya diri (Terlalu percaya diri (OverconfidenceOverconfidence).).

Laporan dan investigasi yang kurang Laporan dan investigasi yang kurang memadai dari kecelakaan.memadai dari kecelakaan.

Why NuclearWhy NuclearPembangkit listrik tenaga nuklir dapat Pembangkit listrik tenaga nuklir dapat mengurangi 155 juta ton metrik COmengurangi 155 juta ton metrik CO22 yang yang sedianya akan dihasilkan oleh pembangkit sedianya akan dihasilkan oleh pembangkit tenaga bahan bakar fosil (minyak dan tenaga bahan bakar fosil (minyak dan batubara).batubara).

Pembangkit listrik tenaga nuklir yang ada Pembangkit listrik tenaga nuklir yang ada saat ini dapat menyebabkan hilangnya 59 saat ini dapat menyebabkan hilangnya 59 juta metrik ton CO2 pada tahun 2020juta metrik ton CO2 pada tahun 2020

Peningkatan Keandalan dan Peningkatan Keandalan dan KeamananKeamanan

What Goes WrongWhat Goes Wrong??– Sistem Komputer Gagal Karena:Sistem Komputer Gagal Karena:

Kerja yang mereka lakukan sifatnya sulit, Kerja yang mereka lakukan sifatnya sulit, dandanKerjanya dilakukan dengan jelek.Kerjanya dilakukan dengan jelek.

– Penggabungan Penggabungan IssueIssue Keandalan: Keandalan:Pengembang dan users menunjukkan terlalu Pengembang dan users menunjukkan terlalu percaya diri (percaya diri (exhibit overconfidenceexhibit overconfidence) dalam ) dalam sistem.sistem.Reused system softwareReused system software mungkin tidak mungkin tidak bekerja pada lingkungan yang berbedabekerja pada lingkungan yang berbeda

Peningkatan Keandalan dan Peningkatan Keandalan dan KeamananKeamanan

Professional TechniquesProfessional TechniquesIkuti mempratekkan Ikuti mempratekkan softwaresoftware yang bagus. yang bagus.

Perlihatkan tanggung jawab Perlihatkan tanggung jawab professionalprofessional pada semua pada semua tingkatan pembangunan dan penggunaan tingkatan pembangunan dan penggunaan

Bangun Bangun user interfacesuser interfaces yang didesain bagus. yang didesain bagus.

Perhitungkan faktor manusia (Perhitungkan faktor manusia (Take human factors Take human factors into accountinto account).).

Termasuk pengulangan yang berlebihan (Termasuk pengulangan yang berlebihan (built-in built-in redundancyredundancy).).

Memasukkan Memasukkan self-checkingself-checking apabila sesuai. apabila sesuai.

Ikuti prinsip testing dan teknik (Ikuti prinsip testing dan teknik (testing principalstesting principals and and techniquestechniques) yang baik.) yang baik.

Peningkatan Keandalan dan Peningkatan Keandalan dan KeamananKeamanan

Hukum dan RegulasiHukum dan Regulasi– Hukuman untuk kriminal dan sipilHukuman untuk kriminal dan sipil ((Criminal and Civil PenaltiesCriminal and Civil Penalties): ):

Memperoleh kembali kehilangan dari sistem yang Memperoleh kembali kehilangan dari sistem yang salah dan tidak aman.salah dan tidak aman.Pertanggungan jawab dan Hukum Sipil:Pertanggungan jawab dan Hukum Sipil:Memberikan insentif untuk memproduksi sistem yang Memberikan insentif untuk memproduksi sistem yang andal dan aman.andal dan aman.

– Jaminan (Jaminan (WarrantiesWarranties):):Menjamin tingkat tertentu pada mutunya (Menjamin tingkat tertentu pada mutunya (to to guarantee a certain level of qualityguarantee a certain level of quality).).

– Regulasi Pemerintah Pusat atau Daerah:Regulasi Pemerintah Pusat atau Daerah:Memproteksi publik.Memproteksi publik.

Peningkatan Keandalan dan Peningkatan Keandalan dan KeamananKeamanan

Hukum dan Regulasi Hukum dan Regulasi (lanjutan)(lanjutan)– Database Accuracy EnforcementDatabase Accuracy Enforcement::

Untuk memproteksi publik dari informasi yang tidak Untuk memproteksi publik dari informasi yang tidak akurat yang di-akurat yang di-maintainedmaintained oleh perusahaan swasta oleh perusahaan swasta dan pemerintah.dan pemerintah.

– Diperintahkan untuk mendapatkan lisensi Diperintahkan untuk mendapatkan lisensi Software DevelopersSoftware Developers::

Untuk menjamin pelatihan yang benar, kompetensi, Untuk menjamin pelatihan yang benar, kompetensi, dan pendiikan berkelanjutan (dan pendiikan berkelanjutan (continuing educationcontinuing education).).

– Cisco Certified Network Associate (CCNA)Cisco Certified Network Associate (CCNA)– Microsoft Certified Systems Administrator (MCSA)Microsoft Certified Systems Administrator (MCSA)– Microsoft Certified Technology Specialist (MCTS) Microsoft Certified Technology Specialist (MCTS) – The Microsoft Certified IT Professional (MCITP) The Microsoft Certified IT Professional (MCITP) – The Microsoft Certified Professional Developer (MCPD) The Microsoft Certified Professional Developer (MCPD) – Microsoft Certified Systems Engineers (MCSEs) Microsoft Certified Systems Engineers (MCSEs) – Microsoft Certified Application Developers (MCADs)Microsoft Certified Application Developers (MCADs)

Perspectif pada Kegagalan, Perspectif pada Kegagalan, Ketergantungan, Risiko, dan Ketergantungan, Risiko, dan ProgressProgress

KegagalanKegagalanApa kecenderungan kegagalan yang dapat diterima? (Apa kecenderungan kegagalan yang dapat diterima? (What What are acceptable rates of failures?)are acceptable rates of failures?)Seberapa seharusnya akurasi Seberapa seharusnya akurasi softwaresoftware tersebut? ( tersebut? (How How accurate should software be?)accurate should software be?)

KetergantunganKetergantunganSeberapa ketergantungan pada sistem komputer dari Seberapa ketergantungan pada sistem komputer dari kegiatan yang biasa kita lakukan? (kegiatan yang biasa kita lakukan? (How dependent on How dependent on computer systems are our ordinary activities?)computer systems are our ordinary activities?)Seberapa berguna sistem komputer pada kegiatan yang Seberapa berguna sistem komputer pada kegiatan yang biasa kita lakukan? (biasa kita lakukan? (How useful are computer systems to How useful are computer systems to our ordinary activities?)our ordinary activities?)

Risiko dan Risiko dan ProgressProgressBagaimana teknologi menjadi lebih aman? (Bagaimana teknologi menjadi lebih aman? (How do new How do new technologies become safer?)technologies become safer?)Dapatkah kemajuan dalam keamanan Dapatkah kemajuan dalam keamanan softwaresoftware dapat dapat mencapai langkah perubahan dalam teknologi komputer? mencapai langkah perubahan dalam teknologi komputer? ((Can progress in software safety keep up with the pace of Can progress in software safety keep up with the pace of change in computer technology?)change in computer technology?)