ALGORITMA SEBAGAI REKAN KERJA: TINJAUAN SISTEMATIS TENTANG DINAMIKA TIM MANUSIA-AI DAN ANJLOKNYA KENDALI MANUSIA (LEMBAGA MANUSIA)

Abstract

Abstrak: Kecerdasan buatan (artificial intelligence/AI) semakin terlibat dalam pekerjaan organisasi, bukan hanya sebagai alat bantu, melainkan juga sebagai rekan tim semiotonom yang berpartisipasi dalam pembagian tugas, koordinasi, dan pengambilan keputusan. Perkembangan ini menimbulkan pertanyaan tentang cara mempertahankan agensi dan kendali manusia ketika pekerjaan dilakukan bersama AI. Penelitian ini bertujuan mensintesis literatur mengenai dinamika tim manusia-AI dengan berfokus pada alokasi tugas dan otomasi, komunikasi dan kepercayaan, serta mekanisme desain yang dapat menjaga agensi manusia. Penelitian menggunakan metode tinjauan pustaka sistematis (systematic literature review/SLR) dengan proses seleksi berorientasi PRISMA.Tinjauan melaporkan 13 studi yang memenuhi kriteria, terbit pada 2023-2026, dengan desain yang beragam, meliputi tinjauan konseptual, tinjauan integratif dan sistematis, eksperimen, metode campuran, analisis teks, serta studi kasus industri. Sintesis naratif disusun dalam tiga tema, yaitu AI sebagai rekan kerja, dinamika tim manusia-AI, serta erosi agensi dan pengawasan manusia. Berdasarkan ringkasan studi ,alokasi tugas dinamis, antarmuka yang transparan dan dapat dijelaskan, kewenangan intervensi manusia, verifikasi aktif, dan model mental bersama berpotensi mendukung kendali manusia. Sebaliknya, otomasi tinggi tanpa keterlibatan manusia yang memadai, pengawasan pasif, dan ketergantungan tanpa evaluasi kritis dapat melemahkan kesadaran situasional, otonomi, dan akuntabilitas. Temuan ini mengindikasikan bahwa organisasi perlu merancang pekerjaan berbasis AI dengan kepercayaan yang terkalibrasi, tanggung jawab yang jelas, dan peluang intervensi manusia yang bermakna. Keterbatasan draf terkait jumlah hasil penyaringan dan penilaian risiko bias formal perlu diverifikasi sebelum publikasi.