A modelagem em radiobiologia possibilita prever a eficácia de tratamentos radioterápicos, especificando protocolos e estratégias para se tratar pacientes com câncer. Muitos modelos matemáticos têm sido propostos para a avaliação da Probabilidade de Controle Tumoral (TCP). Nesta tese, inicialmente apresenta-se um estudo desenvolvido em colaboração com pesquisadores da Universidade de Alberta, no Canadá, em que são comparadas as TCP\'s obtidas através de simulações Monte Carlo e dos modelos Poissoniano, de Zaider-Minerbo (ZM) e de Dawson-Hillen (DH). Os resultados mostram que, para tumores de baixa proliferação celular, o uso do modelo Poissoniano para indicação de protocolos de tratamento é tão eficaz quanto o método Monte Carlo ou o uso de modelos mais sofisticados (ZM e DH). Na segunda parte da tese, propõe-se um teste estatístico, baseado em simulações Monte Carlo do modelo de TCP de DH, para se determinar a capacidade de previsão de erradicação de tumor (cura). Obtem-se a curva ROC do teste a partir das distribuições de probabilidade da fração de células tumorais remanescentes, nas condições de cura ou não-cura. Os resultados mostram que o método pode ser também aplicado a dados clínicos, sugerindo que a avaliação do tamanho do tumor no início da radioterapia permite a prognose do tratamento a curto prazo. Na terceira parte da tese, aborda-se o estudo da fração de sobrevivência (FS) de células tumorais em função da dose de radiação a que são submetidas. Na literatura, esta fração de sobrevivência tem sido formulada através do modelo Linear-Quadrático (LQ) e, mais recentemente, da estatística não-extensiva de Tsallis. Avalia-se o comportamento dessas duas formulações em termos dos ajustes da FS a dados experimentais da literatura (referentes a células cultivadas in vitro para vários tecidos tumorais) estendendo-se assim estudos prévios da literatura. Os parâmetros da FS para ambas formulações são obtidos e a qualidade dos ajustes da FS a dados experimentais é comparada utilizando-se o qui-quadrado reduzido. Os resultados mostram que, em geral, as duas formulações permitem bons ajustes das curvas de FS. Além deste estudo, utilizamos a estatística não-extensiva de Tsallis para obtenção da TCP de ZM em função da dose, expressando-a analiticamente em termos da função Gama (para um perfil de dose típico de radiação de feixe externo) e da função Hipergeométrica (para um perfil de dose típico de braquiterapia). Finalmente, as curvas das correspondentes TCP\'s são levantadas com o uso de dados experimentais e comparadas com a TCP\'s obtidas através do modelo LQ. / Radiobiological modeling allows one to predict the efficacy of radiotherapeutic treatments, specifying protocols and strategies to treat patients with cancer. Many mathematical models have been proposed to evaluate the Tumor Control Probability (TCP). In this thesis we first present a study in colaboration with researchers at the University of Alberta, Canada, in which we compare the TCPs obtained by Monte Carlo simulations and from the Poissonian, Zaider-Minerbo (ZM) and Dawson-Hillen (DH) models. Results show that, for low proliferation tumors, the use of the Poissonian model for indicating the treatment protocol is as effective as the Monte Carlo method or more sofisticated models (ZM and DH). in the second part of the thesis, we propose a statistical test based on Monte Carlo simulations of the DH TCP model to determine the prediction capacity of tumor eradication (cure). We obtain the ROC curve of the test from the probability distributions of the remaining tumor cells for conditions of cure and non-cure. Results show that the method can also be applied to clinical data suggesting that the evaluation of the tumor size at the beginning of the radiotherapy leads to a short-term prognosis of the treatment. In the third part of the thesis, we study the surviving fraction (FS) of tumor cells as function of the radiation dose to which they are subjected. In the literature, this surviving fraction has been formulated by the Linear-Quadratic (LQ) model and, more recently, from the Tsallis non-extensive statistics. We evaluate the behaviour of both formulations in terms of the FS fittings to experimental data in the literature (related to cells cultivated for several tumoral tissues) so that we extend previous studies in the literature. The FS parameters for both formulations are obtained and the quality of the FS fittings to experimental data is compared using the reduced chi-square. Results show that in general both formulations lead to very good FS-curve fittings. Furthermore, we use the Tsallis non-extensive statistics to obtain the ZM TCP as function of the dose, expressing it analitically in terms of the Gamma function (for a dose profile typical of external beam radiation) and the Hipergeometric function (for a dose profile typical of brachitherapy). Finally, the curves of the corresponding TCPs are plotted using experimental data and then compared with TCPs obtained from the LQ model.

A modelagem em radiobiologia possibilita prever a eficácia de tratamentos radioterápicos, especificando protocolos e estratégias para se tratar pacientes com câncer. Muitos modelos matemáticos têm sido propostos para a avaliação da Probabilidade de Controle Tumoral (TCP). Nesta tese, inicialmente apresenta-se um estudo desenvolvido em colaboração com pesquisadores da Universidade de Alberta, no Canadá, em que são comparadas as TCP\'s obtidas através de simulações Monte Carlo e dos modelos Poissoniano, de Zaider-Minerbo (ZM) e de Dawson-Hillen (DH). Os resultados mostram que, para tumores de baixa proliferação celular, o uso do modelo Poissoniano para indicação de protocolos de tratamento é tão eficaz quanto o método Monte Carlo ou o uso de modelos mais sofisticados (ZM e DH). Na segunda parte da tese, propõe-se um teste estatístico, baseado em simulações Monte Carlo do modelo de TCP de DH, para se determinar a capacidade de previsão de erradicação de tumor (cura). Obtem-se a curva ROC do teste a partir das distribuições de probabilidade da fração de células tumorais remanescentes, nas condições de cura ou não-cura. Os resultados mostram que o método pode ser também aplicado a dados clínicos, sugerindo que a avaliação do tamanho do tumor no início da radioterapia permite a prognose do tratamento a curto prazo. Na terceira parte da tese, aborda-se o estudo da fração de sobrevivência (FS) de células tumorais em função da dose de radiação a que são submetidas. Na literatura, esta fração de sobrevivência tem sido formulada através do modelo Linear-Quadrático (LQ) e, mais recentemente, da estatística não-extensiva de Tsallis. Avalia-se o comportamento dessas duas formulações em termos dos ajustes da FS a dados experimentais da literatura (referentes a células cultivadas in vitro para vários tecidos tumorais) estendendo-se assim estudos prévios da literatura. Os parâmetros da FS para ambas formulações são obtidos e a qualidade dos ajustes da FS a dados experimentais é comparada utilizando-se o qui-quadrado reduzido. Os resultados mostram que, em geral, as duas formulações permitem bons ajustes das curvas de FS. Além deste estudo, utilizamos a estatística não-extensiva de Tsallis para obtenção da TCP de ZM em função da dose, expressando-a analiticamente em termos da função Gama (para um perfil de dose típico de radiação de feixe externo) e da função Hipergeométrica (para um perfil de dose típico de braquiterapia). Finalmente, as curvas das correspondentes TCP\'s são levantadas com o uso de dados experimentais e comparadas com a TCP\'s obtidas através do modelo LQ. / Radiobiological modeling allows one to predict the efficacy of radiotherapeutic treatments, specifying protocols and strategies to treat patients with cancer. Many mathematical models have been proposed to evaluate the Tumor Control Probability (TCP). In this thesis we first present a study in colaboration with researchers at the University of Alberta, Canada, in which we compare the TCPs obtained by Monte Carlo simulations and from the Poissonian, Zaider-Minerbo (ZM) and Dawson-Hillen (DH) models. Results show that, for low proliferation tumors, the use of the Poissonian model for indicating the treatment protocol is as effective as the Monte Carlo method or more sofisticated models (ZM and DH). in the second part of the thesis, we propose a statistical test based on Monte Carlo simulations of the DH TCP model to determine the prediction capacity of tumor eradication (cure). We obtain the ROC curve of the test from the probability distributions of the remaining tumor cells for conditions of cure and non-cure. Results show that the method can also be applied to clinical data suggesting that the evaluation of the tumor size at the beginning of the radiotherapy leads to a short-term prognosis of the treatment. In the third part of the thesis, we study the surviving fraction (FS) of tumor cells as function of the radiation dose to which they are subjected. In the literature, this surviving fraction has been formulated by the Linear-Quadratic (LQ) model and, more recently, from the Tsallis non-extensive statistics. We evaluate the behaviour of both formulations in terms of the FS fittings to experimental data in the literature (related to cells cultivated for several tumoral tissues) so that we extend previous studies in the literature. The FS parameters for both formulations are obtained and the quality of the FS fittings to experimental data is compared using the reduced chi-square. Results show that in general both formulations lead to very good FS-curve fittings. Furthermore, we use the Tsallis non-extensive statistics to obtain the ZM TCP as function of the dose, expressing it analitically in terms of the Gamma function (for a dose profile typical of external beam radiation) and the Hipergeometric function (for a dose profile typical of brachitherapy). Finally, the curves of the corresponding TCPs are plotted using experimental data and then compared with TCPs obtained from the LQ model.

Orientador: Marco Antônio Rodrigues Fernandes / Resumo: O sucesso da radioterapia está intimamente ligado à razão terapêutica que representa o quociente entre a quantidade de tecido tumoral irradiado e o volume de tecido sadio atingido. A Probabilidade de Complicação em Tecidos Normais (NTCP) e a Probabilidade de Controle do Tumor (TCP) são parâmetros fornecidos por Sistemas de Planejamentos de Tratamentos (TPS) computadorizados, usados na rotina da radioterapia que auxiliam na interpretação da qualidade do tratamento. Neste trabalho são analisados os planejamentos de radioterapia de 03 pacientes portadores de câncer de próstata. Os planejamentos dos tratamentos foram realizados no TPS XiO, simulando as técnicas de radioterapia por intensidade modulada de feixe (IMRT) e radioterapia tridimensional conformada (3D-CRT). A dose de radiação preconizada para o volume de tratamento planejado (PTV) foi de 7.600 cGy, as simulações foram realizadas para um arranjo de 6 campos de radiação com feixes de raios X de megavoltagem e energia de 10 MV. Os volumes prostáticos variaram entre 107 cm3 e 143 cm3. A dose de cobertura D98% do PTV variou de 6.940 cGy a 7.570 cGy com IMRT e de 6.410 cGy a 7.250 cGy com 3D-CRT. Os valores obtidos para o TCP ficaram entre 73,5% a 81,1% com IMRT e entre 70,6% a 75,9% com 3D-CRT. Considerando os valores de NTCP para o reto e a bexiga, os maiores valores encontrados foram 6,9% para o reto e 6,1% para a bexiga, ambos planejados com a técnica de 3D-CRT. Para os casos analisados, os resultados mostram que a técnic... (Resumo completo, clicar acesso eletrônico abaixo) / Abstract: The success of radiotherapy is closely related to the therapeutic ratio which represents the ratio of the amount of irradiated tumor tissue to the volume of healthy tissue achieved. Normal Tissue Complication Probability (NTCP) and Tumor Control Probability (TCP) are parameters provided by computerized treatment planning systems (TPS), used in radiotherapy routine and also allow the interpretation of treatment quality. The aim of this work is analyze the planning of 03 cases of patients submitted to prostate cancer radiotherapy. The treatment plans were performed in TPS XiO, simulating the techniques of beam intensity modulated radiotherapy (IMRT) and tree-dimensional conformal radiation therapy (3D-CRT). The recommended radiation dose for the planned treatment volume (PTV) was 7600 cGy, the simulations were performed for an arrangement of 6 radiation fields with megavoltage X-ray beams and 10 MV energy. Prostatic volumes ranged from 107cm3 to 143cm3 . The D98% PTV coverage dose ranged from 6,940 cGy to 7,570 cGy with IMRT and from 6,410 cGy to 7,250 cGy with 3D-CRT. The values obtained for TCP were between 73.5% to 81.1% with IMRT and between 70.6% to 75.9% with 3D-CRT. Considering the NTCP values for the rectum and bladder, the highest values found were 6.9% for the rectum and 6.1% for the bladder, both planned using the 3D-CRT technique. For the analyzed cases, the results show that the IMRT technique presents better NTCP and TCP values than the 3D-CRT technique. These par... (Complete abstract click electronic access below) / Mestre