|

|
Universitas Negeri Surabaya
Fakultas Matematika dan Ilmu Pengetahuan Alam
Program Studi S1 Kecerdasan Artifisial
|
Kode Dokumen
|
SEMESTER LEARNING PLAN
|
|
Course
|
KODE
|
Rumpun MataKuliah
|
Bobot Kredit
|
SEMESTER
|
Tanggal Penyusunan
|
|
Interaksi Manusia dan Kecerdasan Artifisial
|
5528303008
|
Mata Kuliah Wajib Program Studi
|
T=3
|
P=0
|
ECTS=4.77
|
1
|
14 Agustus 2025
|
|
OTORISASI
|
Pengembang S.P
|
Koordinator Rumpun matakuliah
|
Koordinator Program Studi
|
FADHILAH QALBI ANNISA
|
ELLY MATUL IMAH
|
ELLY MATUL IMAH
|
|
Model Pembelajaran
|
Project Based Learning
|
|
Program Learning Outcomes (PLO)
|
PLO program Studi yang dibebankan pada matakuliah
|
|
PLO-2
|
Menunjukkan karakter tangguh, kolaboratif, adaptif, inovatif, inklusif, belajar sepanjang hayat, dan berjiwa kewirausahaan
|
|
PLO-7
|
Mampu merancang skenario dan membangun model kecerdasan artifisial, mengevaluasi hasil pemodelan dan mereview proses pemodelan, melakukan deployment model dan memelihara model, melakukan review proyek kecerdasan artifisial dan membuat laporan akhir.
|
|
PLO-9
|
Mampu mengkaji kasus penerapan ilmu pengetahuan dan teknologi di bidang kecerdasan artifisial dengan memperhatikan nilai humaniora (moral, tanggung jawab sosial, dan kemanusiaa) serta menjunjung etika profesional kecerdasan artifisial, untuk menghasilkan prototipe, prosedur baku, dan kajian ilmiah dalam bentuk kerta kerja, spesifikasi desain, atau esai
|
|
PLO-12
|
Menguasai teori dan konsep teknologi informasi, dan kecerdasan artifisial baik dari sisi komputasi maupun manajemen informasi untuk menyelesaikan masalah kecerdasan artifisial dengan AI human-centred mindset.
|
Program Objectives (PO)
|
|
PO - 1
|
Mahasiswa mampu menganalisis karakteristik manusia, aktivitas, kebutuhan, dan konteks penggunaan sebagai dasar perancangan interaksi manusia dengan sistem kecerdasan artifisial
|
|
PO - 2
|
Mahasiswa mampu menganalisis kemampuan, keterbatasan, dan pembagian peran antara manusia dan kecerdasan artifisial dengan mempertimbangkan aspek agency, trust, uncertainty, explainability, ethics, inclusivity, accessibility, dan human control
|
|
PO - 3
|
Mahasiswa mampu merancang interaksi manusia-KA berdasarkan kebutuhan pengguna menggunakan pendekatan Design Sprint dengan menentukan mekanisme interaksi, pembagian peran manusia-KA, transparansi, kontrol pengguna, serta penanganan kegagalan sistem
|
|
PO - 4
|
Mahasiswa mampu mengembangkan dan mengevaluasi prototipe sistem interaktif berbasis kecerdasan artifisial secara iteratif berdasarkan hasil evaluasi dengan pengguna
|
|
PO - 5
|
Mahasiswa mampu bekerja secara kolaboratif serta mengomunikasikan proses, keputusan desain, hasil evaluasi, dan implikasi etis dari sistem Human-AI secara bertanggung jawab
|
Matrik PLO-PO
|
| |
| PO | PLO-2 | PLO-7 | PLO-9 | PLO-12 | | PO-1 | | | | ✔ | | PO-2 | | | ✔ | | | PO-3 | | ✔ | | | | PO-4 | | ✔ | | | | PO-5 | ✔ | | | |
|
|
Matrik PO pada Kemampuan akhir tiap tahapan belajar (Sub-PO)
|
| |
| PO |
Minggu Ke |
| 1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
11 |
12 |
13 |
14 |
15 |
16 |
| PO-1 | ✔ | ✔ | | | | | | | | | | | | | | | | PO-2 | | | ✔ | | | | | | | | ✔ | | | | | | | PO-3 | | | | ✔ | ✔ | ✔ | ✔ | | ✔ | ✔ | | ✔ | ✔ | | | | | PO-4 | | | | | | | | | | | | | | ✔ | ✔ | | | PO-5 | | | | | | | | ✔ | | | | | | | | ✔ |
|
|
Deskripsi Singkat Mata Kuliah
|
Mata kuliah Interaksi Manusia dan Kecerdasan Artifisial membahas prinsip, metode, dan tantangan dalam merancang sistem kecerdasan artifisial yang mampu berinteraksi secara efektif, aman, etis, inklusif, dan dapat dipahami oleh manusia. Mahasiswa mempelajari dasar Human-Computer Interaction, karakteristik manusia dalam berinteraksi dengan teknologi, Human-Centered AI, kemampuan dan keterbatasan kecerdasan artifisial, pembagian peran manusia dan KA, agency, trust, explainability, uncertainty, human control, serta penanganan kesalahan sistem KA.
|
|
Pustaka
|
Utama :
|
|
- Rogers, Yvonne; Sharp, Helen and Preece, Jenny. 2023. Interaction Design: beyond human-computer interaction (6th edition). John Wiley & Sons.
- Norman, D. A. 2013. The design of everyday things. MIT Press.
- Knapp, J., Zeratsky, J., & Kowitz, B. 2016. Sprint: How to solve big problems and test new ideas in just five days. Bantam Press.
- Mark Chignell, Lu Wang, Atefeh Zare, and Jamy Li. 2023. The Evolution of HCI and Human Factors: Integrating Human and Artificial Intelligence. ACM Trans. Comput.-Hum. Interact. 30, 2, Article 17 (April 2023), 30 pages.
|
|
Pendukung :
|
|
- Shasha Wang, Zhen Lv, Xianghua Zhu, Congyuan Cao, and Yanfeng Wang. 2023. Research on the Standardization of Human-Computer Interaction Design for Artificial Intelligence Products. In Proceedings of the 2023 6th International Conference on Information Management and Management Science (IMMS '23). Association for Computing Machinery, New York, NY, USA, 62–68.
- Jing Guan. 2024. Research on Human-Computer Interaction Design Standards in Artificial Intelligence Products. In Proceedings of the International Conference on Modeling, Natural Language Processing and Machine Learning (CMNM '24). Association for Computing Machinery, New York, NY, USA, 220–225.
- Siddharth Mehrotra, Chadha Degachi, Oleksandra Vereschak, Catholijn M. Jonker, and Myrthe L. Tielman. 2024. A Systematic Review on Fostering Appropriate Trust in Human-AI Interaction: Trends, Opportunities and Challenges. ACM J. Responsib. Comput. 1, 4, Article 26 (December 2024), 45 pages.
- Ziming Wang, Changwu Huang, and Xin Yao. 2024. A Roadmap of Explainable Artificial Intelligence: Explain to Whom, When, What and How? ACM Trans. Auton. Adapt. Syst. 19, 4, Article 20 (December 2024), 40 pages.
- Wekenborg, M.K., Gilbert, S. & Kather, J.N. Examining human-AI interaction in real-world healthcare beyond the laboratory. npj Digit. Med. 8, 169 (2025).
- Frank Chang and Damith Herath. 2025. From Interaction to Relationship: The Role of Memory, Learning, and Emotional Intelligence in AI-Embodied Human Engagement. In Proceedings of the 2025 ACM/IEEE International Conference on Human-Robot Interaction (HRI '25). IEEE Press, 1269–1273.
- Qiyang Sun, Alican Akman, and Björn W. Schuller. 2025. Explainable Artificial Intelligence for Medical Applications: A Review. ACM Trans. Comput. Healthcare 6, 2, Article 17 (April 2025), 31 pages.
- Karel van den Bosch, Emma van Zoelen, Tjeerd Schoonderwoerd, Anthia Anthia Solaki, Birgit Van der Stigchel, and Ivana Akrum. 2025. Design and Effects of Co-Learning in Human-AI Teams. J. Artif. Int. Res. 82 (Jun 2025)
- Welie, Martijn. (2001). Task-Based User Interface Design.
|
|
Dosen Pengampu
|
Fadhilah Qalbi Annisa, S.T., M.Sc. |
|
Minggu Ke-
|
Kemampuan akhir tiap tahapan belajar
(Sub-PO)
|
Penilaian
|
Bantuk Pembelajaran,
Metode Pembelajaran,
Penugasan Mahasiswa,
[ Estimasi Waktu]
|
Materi Pembelajaran
[ Pustaka ]
|
Bobot Penilaian (%)
|
|
Indikator
|
Kriteria & Bentuk
|
Luring (offline)
|
Daring (online)
|
|
(1)
|
(2)
|
(3)
|
(4)
|
(5)
|
(6)
|
(7)
|
(8)
|
|
1
Minggu ke 1
|
Mahasiswa mampu menjelaskan konsep dasar Human-AI Interaction dan mengidentifikasi peran KA dalam mendukung aktivitas manusia |
- Menjelaskan ruang lingkup HCI dan Human-AI Interaction
- Membedakan sistem interaktif konvensional dan sistem berbasis KA
- Mengidentifikasi peran KA sebagai tool, assistant, agent, atau collaborator
- Mengidentifikasi contoh Human-AI Interaction di lingkungan sekitar
|
Kriteria:
Non Tes Bentuk Penilaian : Aktifitas Partisipasif |
Contextual Learning, Small Group Discussion 150 Menit |
|
Materi: Evolusi HCI dan Faktor Manusia Pustaka: Mark Chignell, Lu Wang, Atefeh Zare, and Jamy Li. 2023. The Evolution of HCI and Human Factors: Integrating Human and Artificial Intelligence. ACM Trans. Comput.-Hum. Interact. 30, 2, Article 17 (April 2023), 30 pages. Materi: Standar HCI untuk Produk AI Pustaka: Shasha Wang, Zhen Lv, Xianghua Zhu, Congyuan Cao, and Yanfeng Wang. 2023. Research on the Standardization of Human-Computer Interaction Design for Artificial Intelligence Products. In Proceedings of the 2023 6th International Conference on Information Management and Management Science (IMMS '23). Association for Computing Machinery, New York, NY, USA, 62–68. Materi: Desain dan Dampak Interaksi Human-AI Pustaka: Karel van den Bosch, Emma van Zoelen, Tjeerd Schoonderwoerd, Anthia Anthia Solaki, Birgit Van der Stigchel, and Ivana Akrum. 2025. Design and Effects of Co-Learning in Human-AI Teams. J. Artif. Int. Res. 82 (Jun 2025) Materi: What is Interaction Design Pustaka: Rogers, Yvonne; Sharp, Helen and Preece, Jenny. 2023. Interaction Design: beyond human-computer interaction (6th edition). John Wiley & Sons. |
1% |
|
2
Minggu ke 2
|
Mahasiswa mampu menganalisis karakteristik manusia yang memengaruhi interaksi dengan sistem KA |
- Menjelaskan perception, attention, memory, cognition, dan emotion
- Menjelaskan mental model pengguna
- Menganalisis pengaruh kemampuan dan keterbatasan manusia terhadap desain sistem KA
|
Kriteria:
Tugas Individu: Menganalisis human activity pada salah satu konteks Home, Classroom, atau Community Places. |
Contextual Learning, Case Study 150 Menit |
|
Materi: The psychopathology of everyday things; The psychology of everyday actions; Knowledge in the Head and in the World; Knowing What to Do: Constraints Discoverability and Feedback; Human Error? No, Bad Design; Pustaka: Norman, D. A. 2013. The design of everyday things. MIT Press. Materi: Cognitive Aspects; Social Interaction; Emotional Interaction; Pustaka: Rogers, Yvonne; Sharp, Helen and Preece, Jenny. 2023. Interaction Design: beyond human-computer interaction (6th edition). John Wiley & Sons. Materi: Human and AI Engagement Pustaka: Frank Chang and Damith Herath. 2025. From Interaction to Relationship: The Role of Memory, Learning, and Emotional Intelligence in AI-Embodied Human Engagement. In Proceedings of the 2025 ACM/IEEE International Conference on Human-Robot Interaction (HRI '25). IEEE Press, 1269–1273. |
3% |
|
3
Minggu ke 3
|
Mahasiswa mampu merancang dan melakukan penelitian pengguna untuk memahami aktivitas, kebutuhan, permasalahan, dan konteks penggunaan |
- Menentukan target pengguna dan stakeholder
- Menyusun pertanyaan wawancara/observasi
- Melaksanakan contextual inquiry
- Mendokumentasikan temuan berdasarkan bukti
|
Kriteria:
Projek Kelompok: Melaksanakan user research (observasi/contextual inquiry dan wawancara target pengguna) Bentuk Penilaian : Aktifitas Partisipasif, Penilaian Portofolio |
Project Based Learning, Field Study, Collaborative Learning 150 Menit |
|
Materi: Data Gathering; Data analysis, Interpretation, and Presentation; Pustaka: Rogers, Yvonne; Sharp, Helen and Preece, Jenny. 2023. Interaction Design: beyond human-computer interaction (6th edition). John Wiley & Sons. |
5% |
|
4
Minggu ke 4
|
Mahasiswa mampu mensintesis hasil penelitian pengguna untuk mengidentifikasi kebutuhan, aktivitas, pain points, dan pengalaman pengguna |
- Mengelompokkan hasil penelitian
- Mengidentifikasi insight dan user needs
- Membuat persona
- Membuat user journey
- Mengidentifikasi pain points dan opportunities
|
Kriteria:
Projek Kelompok: Menyusun User Research Findings, Persona, User Journey, dan User Needs. Bentuk Penilaian : Aktifitas Partisipasif, Penilaian Portofolio |
Project Based Learning, Collaborative Learning, Design Critique 150 Menit |
|
Materi: Extracting Interaction Design Requirements; Constructing Design-Informing Models; Pustaka: Rogers, Yvonne; Sharp, Helen and Preece, Jenny. 2023. Interaction Design: beyond human-computer interaction (6th edition). John Wiley & Sons. |
5% |
|
5
Minggu ke 5
|
Mahasiswa mampu merumuskan masalah dan menentukan peluang pemanfaatan KA berdasarkan kebutuhan pengguna |
- Merumuskan long-term goal
- Menentukan Sprint Questions
- Membuat Sprint Map
- Menghasilkan HMW questions
- Menentukan Sprint Target
- Menilai apakah masalah tepat diselesaikan menggunakan KA
|
Kriteria:
Projek Kelompok: Problem Statement Sprint Map HMW Sprint Target AI Opportunity Bentuk Penilaian : Penilaian Portofolio |
Project Based Learning 150 Menit |
|
Materi: The Whole Book Content Pustaka: Knapp, J., Zeratsky, J., & Kowitz, B. 2016. Sprint: How to solve big problems and test new ideas in just five days. Bantam Press. |
5% |
|
6
Minggu ke 6
|
Mahasiswa mampu menghasilkan alternatif solusi Human-AI secara individual berdasarkan masalah dan target Sprint |
- Menganalisis solusi pembanding melalui Lightning Demos
- Menghasilkan alternatif ide
- Melakukan Crazy 8s
- Menghasilkan Solution Sketch
- Mengidentifikasi kemungkinan pembagian peran manusia dan KA
|
Kriteria:
Tugas Mandiri: Individual solution sketch Bentuk Penilaian : Penilaian Portofolio |
Project Based Learning 150 Menit |
|
|
5% |
|
7
Minggu ke 7
|
Mahasiswa mampu menentukan konsep solusi dan merancang pembagian peran serta alur interaksi manusia-KA |
- Mengevaluasi alternatif solusi
- Menentukan solusi berdasarkan kriteria
- Menentukan Human-AI roles
- Menentukan agency dan initiative
- Menyusun storyboard interaksi
|
Kriteria:
Projek Kelompok: Selected Concept Human-AI Role Definition Interaction Storyboard Bentuk Penilaian : Penilaian Portofolio |
Project Based Learning 150 Menit |
|
|
5% |
|
8
Minggu ke 8
|
Mahasiswa mampu mengomunikasikan dan mempertahankan keputusan desain Human-AI berdasarkan evidence hasil penelitian pengguna |
- Menjelaskan user problem
- Menunjukkan evidence user research
- Menjelaskan AI opportunity
- Menjelaskan Human-AI roles
- Mempertahankan keputusan desain
|
Kriteria:
Presentasi Kelompok: Laporan perkembangan proyek Bentuk Penilaian : Penilaian Hasil Project / Penilaian Produk, Penilaian Portofolio |
Project Presentation 150 Menit |
|
Materi: The Whole Book Content Pustaka: Rogers, Yvonne; Sharp, Helen and Preece, Jenny. 2023. Interaction Design: beyond human-computer interaction (6th edition). John Wiley & Sons. Materi: The Whole Book Content Pustaka: Norman, D. A. 2013. The design of everyday things. MIT Press. Materi: The Whole Book Content Pustaka: Knapp, J., Zeratsky, J., & Kowitz, B. 2016. Sprint: How to solve big problems and test new ideas in just five days. Bantam Press. |
20% |
|
9
Minggu ke 9
|
Mahasiswa mampu merancang mekanisme interaksi sesuai kemampuan dan keterbatasan KA serta konteks pengguna |
- Menentukan input dan output
- Memilih modality yang sesuai
- Menentukan feedback sistem
- Merancang interaction flow
- Menyesuaikan interaksi dengan AI capabilities dan limitations
|
Kriteria:
Projek Kelompok: Human-AI Interaction Flow Specification Bentuk Penilaian : Aktifitas Partisipasif, Penilaian Portofolio |
|
Project Based Learning 150 Menit |
Materi: The Whole Book Content Pustaka: Knapp, J., Zeratsky, J., & Kowitz, B. 2016. Sprint: How to solve big problems and test new ideas in just five days. Bantam Press. Materi: Design, Prototyping, and Construction Pustaka: Rogers, Yvonne; Sharp, Helen and Preece, Jenny. 2023. Interaction Design: beyond human-computer interaction (6th edition). John Wiley & Sons. |
3% |
|
10
Minggu ke 10
|
Mahasiswa mampu merancang mekanisme transparansi dan komunikasi ketidakpastian untuk membangun tingkat kepercayaan pengguna yang tepat terhadap KA |
- Menjelaskan appropriate trust
- Menentukan kapan AI perlu memberikan explanation
- Merancang komunikasi confidence/uncertainty
- Menghindari overtrust dan undertrust
|
Kriteria:
Projek Kelompok: Trust, Explanation & Uncertainty Design Bentuk Penilaian : Aktifitas Partisipasif, Penilaian Portofolio |
|
Project Based Learning 150 Menit |
Materi: The Whole Book Content Pustaka: Knapp, J., Zeratsky, J., & Kowitz, B. 2016. Sprint: How to solve big problems and test new ideas in just five days. Bantam Press. Materi: Design, Prototyping, and Construction Pustaka: Rogers, Yvonne; Sharp, Helen and Preece, Jenny. 2023. Interaction Design: beyond human-computer interaction (6th edition). John Wiley & Sons. |
3% |
|
11
Minggu ke 11
|
Mahasiswa mampu merancang sistem Human-AI yang memungkinkan pengguna menangani kesalahan KA dan mempertahankan kontrol terhadap keputusan penting secara etis dan inklusif |
- Mengidentifikasi failure scenarios
- Merancang error recovery
- Menentukan mekanisme human override
- Mengidentifikasi risiko bias, privacy dan fairness
- Mengevaluasi accessibility dan inclusivity
|
Kriteria:
Projek Kelompok: Failure & Recovery Scenario Responsible AI Review. Bentuk Penilaian : Penilaian Portofolio |
|
Project Based Learning 150 Menit |
Materi: The Whole Book Content Pustaka: Knapp, J., Zeratsky, J., & Kowitz, B. 2016. Sprint: How to solve big problems and test new ideas in just five days. Bantam Press. Materi: Design, Prototyping, and Construction Pustaka: Rogers, Yvonne; Sharp, Helen and Preece, Jenny. 2023. Interaction Design: beyond human-computer interaction (6th edition). John Wiley & Sons. |
3% |
|
12
Minggu ke 12
|
Mahasiswa mampu mengembangkan prototipe yang merepresentasikan pengalaman interaksi manusia dengan KA |
- Menentukan skenario yang akan diuji
- Memilih fidelity yang sesuai
- Mensimulasikan AI behavior
- Mengimplementasikan interaction flow
|
Kriteria:
Presentasi Kelompok: Laporan Perkembangan Proyek Bentuk Penilaian : Penilaian Hasil Project / Penilaian Produk |
Project-Based Learning 150 Menit |
|
Materi: The Whole Book Content Pustaka: Knapp, J., Zeratsky, J., & Kowitz, B. 2016. Sprint: How to solve big problems and test new ideas in just five days. Bantam Press. |
5% |
|
13
Minggu ke 13
|
Mahasiswa mampu mengembangkan prototipe yang merepresentasikan pengalaman interaksi manusia dengan KA |
Prototype menunjukkan: 1. Normal interaction. 2. AI uncertainty. 3. AI error. 4. Human override. 5. System feedback/recovery. |
Kriteria:
Presentasi Kelompok: Laporan Perkembangan Proyek Bentuk Penilaian : Penilaian Hasil Project / Penilaian Produk |
Project-Based Learning 150 Menit |
|
Materi: The Whole Book Content Pustaka: Knapp, J., Zeratsky, J., & Kowitz, B. 2016. Sprint: How to solve big problems and test new ideas in just five days. Bantam Press. |
5% |
|
14
Minggu ke 14
|
Mahasiswa mampu merancang dan melaksanakan evaluasi prototipe Human-AI dengan pengguna |
- Menentukan tujuan dan skenario testing
- Menentukan partisipan
- Melaksanakan usability testing
- Mengobservasi perilaku pengguna
- Mengevaluasi usability, usefulness, trust, understandability dan perceived control
|
Kriteria:
Projek Kelompok: User Testing Data Evaluation Findings Bentuk Penilaian : Penilaian Hasil Project / Penilaian Produk |
Project-Based Learning 150 Menit |
|
Materi: The Whole Book Content Pustaka: Knapp, J., Zeratsky, J., & Kowitz, B. 2016. Sprint: How to solve big problems and test new ideas in just five days. Bantam Press. |
5% |
|
15
Minggu ke 15
|
Mahasiswa mampu mengevaluasi hasil user testing dan melakukan iterasi desain berdasarkan evidence |
- Mengidentifikasi temuan utama
- Menentukan severity dan priority
- Menghubungkan findings dengan design changes
- Memperbaiki prototype
- Meninjau kembali responsible AI considerations
|
Kriteria:
Projek Kelompok: Design Iteration Documentation Final Prototype Bentuk Penilaian : Penilaian Hasil Project / Penilaian Produk |
Project-Based Learning 150 Menit |
|
Materi: The Whole Book Content Pustaka: Knapp, J., Zeratsky, J., & Kowitz, B. 2016. Sprint: How to solve big problems and test new ideas in just five days. Bantam Press. |
10% |
|
16
Minggu ke 16
|
Mahasiswa mampu mendemonstrasikan dan mempertahankan solusi Human-AI yang dikembangkan berdasarkan proses desain dan evidence hasil evaluasi |
- Mendemonstrasikan final prototype
- Menjelaskan hubungan user need–design–evaluation
- Menjelaskan Human-AI roles
- Menjelaskan trust, error, control dan ethical considerations
- Mempertahankan keputusan desain
|
Kriteria:
Presentasi Kelompok Bentuk Penilaian : Penilaian Hasil Project / Penilaian Produk |
Project Showcase 150 Menit |
|
Materi: Tantangan dan Masa Depan AI Pustaka: Wekenborg, M.K., Gilbert, S. & Kather, J.N. Examining human-AI interaction in real-world healthcare beyond the laboratory. npj Digit. Med. 8, 169 (2025). Materi: Dampak Interaksi Manusia-AI Pustaka: Karel van den Bosch, Emma van Zoelen, Tjeerd Schoonderwoerd, Anthia Anthia Solaki, Birgit Van der Stigchel, and Ivana Akrum. 2025. Design and Effects of Co-Learning in Human-AI Teams. J. Artif. Int. Res. 82 (Jun 2025) |
20% |