Media sosial telah menjadi bagian yang sangat penting dalam ilmu pengetahuan modern seiring dengan berkembangnya zaman. X menjadi salah satu media sosial yang banyak digunakan oleh para peneliti dan menghasilkan data dari interaksi yang sangat besar untuk memahami pendapat publik terhadap berbagai isu. Pendapat publik lebih mudah dipahami melalui analisis sentimen yang merupakan salah satu bidang penelitian Natural Language Processing (NLP). Tantangan dalam pemrosesan bahasa manusia menjadi lebih spesifik dalam teks berbahasa Indonesia, yang memiliki bentuk kata kompleks, susunan kalimat yang fleksibel, dan makna kata ambigu. Penelitian sebelumnya menunjukkan bahwa model analisis sentimen bahasa Indonesia masih mengalami kesulitan dalam memahami variasi penggunaan bahasa, seperti kalimat ambigu, singkatan, dan kesalahan penulisan, sehingga hasil klasifikasi belum optimal. Oleh karena itu dibutuhkan model dengan kemampuan pemahaman kontekstual yang lebih mendalam. Penelitian ini bertujuan mengevaluasi kemampuan IndoRoBERTa sebagai feature extraction dengan BiLSTM serta membandingkan kinerjanya dengan IndoBERT sebagai feature extraction dengan BiLSTM dalam analisis sentimen bahasa Indonesia pada post di X. Dataset yang digunakan merupakan hasil penggabungan beberapa dataset post di X berbahasa Indonesia yang berasal dari berbagai penelitian dengan topik dan tahun yang beragam. Total data yang digunakan berjumlah 9.644 data dengan dua label sentimen, yakni positive dan negative. Hasil penelitian menunjukkan bahwa model IndoRoBERTa sebagai feature extraction dengan BiLSTM memberikan kinerja yang lebih baik dibandingkan IndoBERT sebagai feature extraction dengan BiLSTM dengan memperoleh nilai accuracy sebesar 0.7681, precision sebesar 0.7664, recall sebesar 0.8200, dan F1-score sebesar 0.7923.