Участники оригинального состава группы Joy первоначально были школьными друзьями, проживающими в маленьком городке Бад-Аусзее (известном австрийском курорте). Все трое по окончании школы избрали для себя разные карьеры. До того, как в 1984 году они вновь встретились и решили основать группу, Фредди Яклич (Freddy Jaklitsch) некоторое время преподавал немецкий язык и историю, Манфред Теммель (Manfred Temmel) был ди-джеем, а Энди Швайцер (Andy Schweitzer) - полицейским.
В 1985 году вышел первый сингл "Lost In Hong-Kong". Большим хитом он не стал, но тем не менее группа удостоилась упоминания в прессе и, как затем оказалось, вполне заслуженно. Их следующий сингл "Touch By Touch" (сентябрь 1985) мгновенно попал в Top-20 европейских танцевальных чартов. Песня уже обладала всеми характерными чертами, которые стали впоследствии визитной карточкой группы.
Первый альбом Joy с говорящим названием "Hello" пробыл пять недель на первой позиции в чартах, что принесло группе всемирную популярность. Альбом продавался более чем в 30 странах. По австрийским меркам это был триумф.
Осенью 1986 года группа вернулась в свою студию для записи второго альбома "Joy And Tears". Наиболее успешная песня с этого альбома - без сомнения "Japanese Girls". Возможно благодаря этой композиции трио Joy приобрело широкую популярность и в Азии. Концертный тур 1987 собрал в общей сложности около 60 тысяч зрителей. В Сеуле группа выступала перед 20-тысячной аудиторией стадиона Джем Сил. После этого концерта Joy стал самой популярной в Южной Корее группой.
Концертная деятельность сопровождалась выпуском сборника лучших песен с первых двух альбомов. В течение следующего года Joy дали серию концертов в Америке, а по возвращении в Европу выступали в Германии, Португалии и Италии. Вскоре после этого (1989) клавишник и сопродюсер большинства песен Andy Schweitzer покинул группу и начал сольную карьеру. Несмотря на это, он получил право на использование оригинального названия Joy для записи своего собственного альбома. Этот альбом был выпущен разными компаниями, да еще и под разными названиями "She's Dancing Alone" и "Joy - 3rd". Его стиль совершенно отличался от характерного для Joy звучания - музыка стала более спокойной и размеренной.
В течение последующих лет Европу захлестнула волна рэпа и техно-бума. В такой сложившейся обстановке Joy просто не находил своего места на музыкальной сцене. Но как бы то ни было, группа все же продолжала существовать. Так в 1992 году вышло переизданние сбороника "Best of Joy", а в 1994 году двое членов оригинального состава Joy (Freddy and Manfred) выпустили на BMG новый сингл "Hello, Mrs. Johnson". После этого, пригласив нового клавишника, они выпустили еще один сингл "Felicidad" (1995). На этот раз песня была посвящена таинственной Spaniard.
В 1996 на BMG был записан альбом"Full of Joy", включающий 12 песен. Но к сожалению, по неизвестным причинам, он так и не был отпечатан вплоть до истечения срока действия контракта с фирмой.
В настоящее время коллектив все еще остается востребованным и желанным не только у себя на Родине, но и практически во всей Азии, а также в России. На концертах группа исполняет для своих поклонников в основном хиты репертуара 1986 года.
 В 2011 году вышел совершенно новый альбом, который полностью выдержан в стиле диско. Он включает в себя спетые заново старые хиты, а также новый материал.