Ну вообще по-хорошему надо:
1) собссна гитару
2) усилитель (комбо или голова + кабинет)
3) шнуры
Возможно набор педалей эффектов, процессор(ы).
Ну и по мелочи - медиаторы, ремень там, все такое

По части усилителя есть несколько вариантов: можно купить маленький дешевый комбик. Можно взять звуковую карточку чуть выше уровнем чем встроенная в материнку и скачать/купить/поставить программный процессор типа Amplitube, Guitar Rig и т.п. и играть через компьютер. Можно взять GuitarPort от Line6 и использовать аналогично (считай звуковая карта + процессор). Можно взять отдельный процессор и играть через него в компьютер/музыкальный центр и т.п.
Я бы лично порекомендовал комбик. Может к нему еще педаль перегруза - вариантов масса. Некоторые люди советуют гитарпорт. Некоторые - гитарриг и прочие софтовые решения.
Электрогитара - это не только кусок деревяшки со струнами и дыркой для шнура