Kriptografi merupakan salah satu cabang matematika yang berperan penting dalam pengamanan informasi, khususnya pada era digital saat ini. Hill cipher sebagai algoritma kriptografi simetris memiliki kecepatan enkripsi yang tinggi, namun lemah dalam aspek distribusi kunci dan keamanan. Sebaliknya, kriptosistem RSA sebagai algoritma kriptografi asimetris memiliki tingkat keamanan yang tinggi, tetapi proses enkripsi dan dekripsinya relatif lambat.  Penelitian ini membahas penerapan kriptosistem hybrid yang mengombinasikan Hill cipher dengan modifikasi kriptosistem RSA Square (RSASQ). Tujuan penelitian ini adalah menjelaskan proses pembentukan kunci serta proses enkripsi dan dekripsi pada kriptosistem hybrid tersebut. Hill cipher digunakan sebagai algoritma kriptografi simetris untuk mengenkripsi pesan, sedangkan RSASQ digunakan untuk mengamankan kunci sesi Hill cipher melalui mekanisme kunci publik dan kunci privat. Metode penelitian yang digunakan dalam penelitian ini bersifat teoritis dan deskriptif, yang meliputi tahapan pembentukan kunci simetris menggunakan algoritma Hill cipher, pembangkitan pasangan kunci asimetris RSA Square (RSASQ), serta penerapan proses enkripsi dan dekripsi melalui contoh numerik. Hasil penelitian menunjukkan bahwa kriptosistem hybrid yang digunakan dapat mengombinasikan mekanisme pertukaran kunci berbasis kriptografi asimetris dengan proses enkripsi data menggunakan kriptografi simetris. Melalui contoh numerik, sistem yang dirancang mampu menjalankan proses pembentukan kunci, enkripsi, dan dekripsi sesuai dengan prosedur algoritma yang telah ditentukan. Penelitian ini bersifat teoritis dan numerik, sehingga belum mencakup analisis keamanan komputasional maupun pengujian kinerja algoritma.

Kata Kunci: Kriptografi, Kriptosistem Hybrid, Hill cipher, RSA Square (RSASQ).