W 1933 r. Gebhardt wstąpił do NSDAP oraz SS. W 1936 r. był naczelnym lekarzem Igrzysk Olimpijskich w Berlinie, a rok później, jako profesor medycyny, kierował chirurgią ortopedyczną na Uniwersytecie w Berlinie. Został wtedy również osobistym lekarzem Heinricha Himmlera.
Gdy wybuchła II wojna światowa, nadzorował sanatorium dla SS w Hohenlychen. Po zajęciu Belgii pośredniczył w komunikacji między Adolfem Hitlerem a królem Belgów, Leopoldem III.
Gdy Reinhard Heydrich, jeden z głównych sprawców Holokaustu, zginął w następstwie zamachu w Pradze (przyczyną śmierci była gangrena – zgorzel gazowa), Gebhardt został oskarżony o podjęcie niewystarczających kroków do uratowania prominentnego dygnitarza. Aby udowodnić swoją niewinność, Gebhardt postanowił przeprowadzić odpowiednie badania w obozie Ravensbrück, który znajdował się 13 km od zarządzanego przez niego sanatorium Hohenlychen.
Eksperymenty Gebhardta polegały na łamaniu nóg więźniów, wprowadzając stan zakażenia tkanek np. gronkowcem złocistym lub tężcem. Aby przyśpieszyć rozwój martwicy tkanek, miażdżono mięśnie kończyn. Następnie stosowano różne leki, w tym sulfonamidy. Eksperymenty miały dowieść nieskuteczności terapii. Aby uwierzytelnić swoją tezę, więźniarki, którym podawano leki, nie otrzymywały opieki pielęgniarskiej. Jak wspomina Karolina Lanckorońska, osadzona w Ravensbrück, te same kobiety musiały nie tylko zmieniać sobie opatrunki, ale także, pomimo unieruchomienia, dbać o higienę i zaspokajanie podstawowych ludzkich potrzeb. Tymczasem kobiety, którym leków nie podawano, otrzymywały w obozowym rewirze pomoc lekarską, dzięki czemu szybciej dochodziły do zdrowia. W ten sposób Gebhardt udowodnił, że nie był winny śmierci Heydricha.
Ponadto, eksperymenty prowadzono ze względu na wysoką umieralność rannych żołnierzy niemieckich na froncie z powodu gangreny. Z tego względu, po konsultacjach z Instytutem Higieny Waffen-SS, do ran więzionych kobiet dosypywano odłamki szkła, drewna lub ziemi, aby uzyskać warunki jak najbardziej zbliżone do tych panujących na froncie.
Gebhardt wykonywał również na kobietach osadzonych w Ravensbrück eksperymentalne operacje związane z regeneracją oraz przeszczepami kości. Wykonywano 3 typy operacji, podczas których łamano i przeszczepiano kości, a następnie pobierano listwy kostne (wycinano fragmenty kości). Celem eksperymentów było badanie przebiegu odbudowy kości i postępu ich regeneracji. Operacje były bardzo brutalne. Kości łamano za pomocą młotka i dłuta, rany zszywano i gipsowano zaledwie na kilka dni, a następnie gips ściągano, aby obserwować proces gojenia się ran. Zdarzały się operacje, które wykonywano bez znieczulenia, a doświadczenia powtarzano wielokrotnie u tych samych osób. Jedną z najmłodszych ofiar eksperymentów Gebhardta była Barbara Pietrzyk, którą aresztowano, gdy miała 16 lat. Przeprowadzono na niej pięć operacji.
Pod koniec wojny Gebhardt został aresztowany przez Amerykanów i postawiony w tzw. procesie lekarzy, będącym jednym z procesów norymberskich. Postawiono mu zarzuty zbrodni wojennych i przeciw ludzkości. Amerykański Trybunał Wojskowy skazał go na karę śmierci przez powieszenie w sierpniu 1947 roku. Wyrok wykonano w więzieniu Landsberg w czerwcu 1948 roku.
