O crescimento de tumores vem chamando a atenção de físicos e matemáticos há mais de sessenta anos. Entretanto, a conversa com biólogos e a interação teoria-experimento têm aparecido apenas recentemente. Equações fenomenológicas e simulações computacionais continuam sendo uma ferramenta comum entre todos os modelos que conhecemos. Assim, nesse trabalho nós estudamos o problema do crescimento de tumores monocamada através das abordagens experimental, teórica e computacional, fortalecendo assim a interação teoria-experimento. Cultivamos células das linhagens HeLa (carcinoma cervical humano), HCT-15 (adenocarcinoma coloretal humano), NIH-HN-13 (carcinoma de células escamosas humanas) e U-251 (glioblastoma neuronal humano), obtendo a dimensão fractal e o comportamento do raio médio com o número de células, além de analisarmos os dados da literatura para a linhagem HT-29 (adenocarcinoma coloretal humano). A seguir nós modelamos a taxa de crescimento do raio médio através de uma curva sigmoidal. A solução analítica dessa equação nos permitiu ajustar bem os dados obtidos experimentalmente, e os parâmetros obtidos serviram para a simulação Monte Carlo dinâmico. Para essa, transformamos a taxa de crescimento do raio em taxa de crescimento do número de células, cujos resultados novamente concordaram muito bem com os dados experimentais. A dimensão fractal dos agregados esteve entre 1; 12 df 1; 21, e concordou com os dados da literatura. Novos resultados foram produzidos: i) O raio médio como uma função do número de células nos permitiu um ajuste do tipo Rc(t) = a[Nc(t) ? N~0]1=2 + R~0, mais geral que a comumente aceita relação Rc(t) = cNc(t)1=2; e ii) os tempos de espera no procedimento MCD se distribuem log-normalmente (ou Gaussianamente em alguns casos), diferentemente da distribuição Poissoniana frequêntemente assumida. A distribuição log-normal nos permitiu também conjecturar que um parâmetro , da relação ht(nT)i / n? T , possa caracterizar o crescimento monocamada de tumores devido à sua estreita abrangência 0; 69 0; 81. Nossos resultados nos permitiram concluir que diferentes condições de cultivo podem gerar diferentes respostas dos parâmetros, além disso, dois fenômenos podem caracterizar esse crescimento no âmbito mesoscópico: A competição por espaços livres e a cooperação entre as células. / Tumor growth has been calling attention of physicists and mathematicians for more than sixty years. However, cross-talking with biologists and the interplay between theory and experiment have emerged just recently. Phenomenological equations and computational simulations are still the common toolbox among all the models we know. Thus, in this work, we have studied the problem of monolayer tumor growth through the experimental, theoretical and computational approaches, enhancing the interaction between theory and experiment. We cultivate HeLa (human cervical carcinoma), HCT-15 (human colorectal adenocarcinoma), NIH-HN-13 (human squamous cell carcinoma) and U-251 (human neuronal glioblastoma) cells, calculating the fractal dimension and the behavior of the mean radius with cell number, and analyzing the literature data from HT-29 (human colorectal adenocarcinoma) lineage. Then we modeled the growth rate of mean radius through a sigmoidal curve. The analytical solution of this equation allowed us to fit well the experimental data and the obtained parameters were used into dynamical Monte Carlo simulation. To do this, we transform the radius growth rate in number of cells growth rate, which again agreed with the experimental data. The fractal dimensions of the aggregates ranged from 1; 12 df 1; 21, and agree with the literature. New findings were produced: i) the mean radius as a function of the number of cells enabled us to adjust the function Rc(t) = a[Nc(t) ? N~0]1=2 + R~0, differently from widely accepted relation Rc(t) = cNc(t)1=2; and ii) the waiting times in the MCD procedure are log-normally distributed (sometimes Gaussian), unlike the Poisson distribution often used. The lognormal distribution also allowed us to conjecture that a parameter , from the power law relation ht(nT)i / n? T , might caracterize the tumor monolayer growth due to its narrow range 0; 69 0; 81. Our findings led us to conclude that different culture conditions may produce different parameter responses, furthermore, two phenomenona can describe the growth in mesoscopic level: the competition for free space and the cooperation between cells.

Made available in DSpace on 2017-07-21T19:25:46Z (GMT). No. of bitstreams: 1 Regiane Siqueira.pdf: 5314044 bytes, checksum: c87c036209bfc1afaae749bad20579fb (MD5) Previous issue date: 2015-04-16 / This study proposes to analyze mathematical models that describe the dynamics of populations, namely, sets of organisms that may or may not belong to the same species but have similar behavior as relates to their dynamics. It is specially treated with models of cell populations that consider the delay time, which are described by dierential equations with delay. The analysis is realized in two mathematical with models, the rst describes the interaction of tumor cells with the immune system. It is considered that the immune system is constituted by resting cells and hunting cells, as well as, the resting cells become cells hunting but the conversion is not straightforward, requiring shaping by delayed dierential equations. The second describes a model for treatment of cancer by chemotherapy where there is metastasis of a primary to a secondary focus by tumor cells. We observe the interactions between normal and tumor cells as being competitive for the available resources, and it is thought the chemotherapy agent as a predator in normal and cancer cells. Metastasis can occur with a delay time, which leads to delayed dierential equations. Next study is a model for treating of brain tumor by chemotherapy. We propose a system of coupled dierential equations that model brain tumour with treatment by chemotherapy, which considers interactions among the glial cells, the glioma, the neurons, and the chemotherapeutic agents. We study the conditions for the glioma growth to be eliminated, and identify values of the parameters for which the inhibition of the glioma growth is obtained with a minimal loss of healthy cells. / Neste trabalho, propoe-se analisar modelos matematicos que descrevem a dinâmica de populações, ou seja, conjuntos de organismos que podem ou n~ao pertencer a mesma espécie, porem possuem comportamento semelhante no que refere-se a sua dinâmica. São tratados de forma especial os modelos de populações de celulas onde considera-se o tempo de retardo, isto e, aqueles descritos por equações diferenciais com atraso. Primeiramente e realizada a análise em dois modelos matemáticos, o primeiro descreve a interação das células tumorais com o sistema imunologico. Considera-se que o sistema imunologico e constituído por células de repouso e células de caça, sendo que as de repouso se convertem em celulas de caça, mas a conversão não e imediata, havendo necessidade de modelar por equações diferencias com atraso. O segundo descreve um modelo para tratamento do câncer por quimioterapia, onde ha metástase de um foco primário para um foco secundário pelas células tumorais. Observa-se as interações entre as células normais e tumorais como sendo competitivas para os recursos disponiveis, e e pensado no agente de quimioterapia como um predador em ambas as celulas, normais e cancer genas. A metastase pode ocorrer com um tempo de retardo, o que da origem a equações diferencias com atraso. Em seguida e descrito um modelo para o tratamento de um tumor cerebral por quimioterapia. E proposto um sistema de equações diferenciais ordinarias para modelar o tumor no cerebro em tratamento por quimioterapia, que considera as interações entre as celulas da glia, o glioma, os neurônios e os agentes quimioterapicos. Analisa-se as condições para o crescimento do glioma a ser eliminado, e identica-se os valores de parâmetros para os quais a inibição do crescimento do glioma e obtida com um mínimo de perda de células saudáveis.

O estudo do crescimento de tumores tem inspirado o aparecimento de diversos modelos, que visam aproximar às características reais das interações entre as células da população tumoral. Do ponto de vista biológico, destacam-se como modelos as culturas de células in vitro. Elas são úteis por reduzir a complexidade intrínseca da massa tumoral real. Do ponto de vista matemático e físico, destacam-se a procura por comportamentos universais, e o uso de simulação numérica para a solução dos modelos propostos. Essas abordagens são úteis por ressaltar as características importantes do crescimento de tumores, promover um intercâmbio de conhecimento com áreas aparentemente distintas, tais como: crescimento de cristais, reações bioquímicas e epidemiologia, além de gerar soluções que seriam difíceis de obter analiticamente. Neste trabalho, abordamos o crescimento de tumores a nível mesoscópico (escala celular), por meio de: (i) experimentos de cultura de células in vitro, de onde obtivemos dados da evolução temporal do raio das colônias e os tempos de duplicação característicos; (ii) modelagem matemática, em que propomos uma taxa de crescimento em função do tempo com forma sigmoidal, e uma equação fenomenológica para a evolução temporal dos agregados; e (iii) descrição estocástica, em que apresentamos um conjunto de regras para a interação entre os elementos da população tumoral e simulamos a dinâmica temporal usando o método Monte Carlo dinâmico (DMC), obtendo as curvas de crescimento e as distribuições de tempo das colônias. Além disso, desenvolvemos uma generalização para o método DMC, em que é possível incluir eventos simultâneos. Essa generalização foi aplicada ao modelo matemático de Dawson e Hillen para uma população de células sujeita a radioterapia, gerando as distribuições de tempos de extinção, e a probabilidade de controle tumoral (TCP). A abordagem ao crescimento de tumores nos permitiu comparar o experimento, a modelagem matemática, e a descrição estocástica com sucesso, e mostramos que a dinâmica de crescimento de vários tipos de células possui o mesmo formato sigmoidal, sugerindo uma universalidade para as taxas de crescimento de células aderentes. Comparamos os tempos de duplicação obtidos experimentalmente e por meio de DMC, e oferecemos alguns insights matemáticos a respeito dos tempos de duplicação obtidos através de DMC. Concluímos que o desenvolvimento teórico-experimental, ao nível mesoscópico, foi capaz de gerar novas ideias sobre mecanismos de crescimento tumorais de células aderentes, e novas perspectivas para abordagem do problema de crescimento de tumores. / The study of tumor growth has inspired the emergence of several models, aiming to reproduce actual patterns of interactions between cells in the tumor population. From the biological point of view, in vitro cell culture models stand out. They are useful to reduce the intrinsic complexity of the actual tumor mass. From the mathematical and physical point of view, stand out the search for universal behaviors and the use of numerical simulation to solve proposed models. These approaches are useful to point out important characteristics of the problem, promoting a knowledge exchange with seemingly distinct areas such as: crystal growth, biochemical reactions and epidemiology, and generating solutions that could be difficult to obtain analytically. In this thesis we approach the tumor growth problem at the mesoscopic level (cellular scale), by means of: (i) cell culture experiments in vitro, generating data for the radius temporal evolution and characteristic doubling times for several colonies; (ii) mathematical modeling, in which we propose a sigmoidal growth rate and time evolution of aggregates by a phenomenological equation; and (iii) stochastic description, where we present a set of rules to describe the interactions among the elements in the tumor population, and we simulate them using the dynamical Monte Carlo (DMC) method, obtaining the growth curves and the time distributions. In addition, we have developed a generalization of the DMC method, making the simulation of simultaneous events to be possible. Such generalization was applied to mathematical model of Dawson and Hillen for a population of cells subjected to radiotherapy, and it was possible to obtain the distributions of extinction times and Tumor Control Probability (TCP). Our approach allowed us to compare tumor growth in experiment with theory, and good agreement were found in our results. Furthermore, we have shown that sigmoidal growth rate appears in several cell lineages, suggesting universal-like behavior. We have compared the doubling times obtained in the experiments and in the DMC simulations, and we show some mathematical insights about the doubling times. We concluded that our theoretical and experimental approach, at the mesoscopic level, could generate new ideas on tumor growth mechanisms of adherent cells and new perspectives in the study of the tumor growth.

O crescimento de tumores vem chamando a atenção de físicos e matemáticos há mais de sessenta anos. Entretanto, a conversa com biólogos e a interação teoria-experimento têm aparecido apenas recentemente. Equações fenomenológicas e simulações computacionais continuam sendo uma ferramenta comum entre todos os modelos que conhecemos. Assim, nesse trabalho nós estudamos o problema do crescimento de tumores monocamada através das abordagens experimental, teórica e computacional, fortalecendo assim a interação teoria-experimento. Cultivamos células das linhagens HeLa (carcinoma cervical humano), HCT-15 (adenocarcinoma coloretal humano), NIH-HN-13 (carcinoma de células escamosas humanas) e U-251 (glioblastoma neuronal humano), obtendo a dimensão fractal e o comportamento do raio médio com o número de células, além de analisarmos os dados da literatura para a linhagem HT-29 (adenocarcinoma coloretal humano). A seguir nós modelamos a taxa de crescimento do raio médio através de uma curva sigmoidal. A solução analítica dessa equação nos permitiu ajustar bem os dados obtidos experimentalmente, e os parâmetros obtidos serviram para a simulação Monte Carlo dinâmico. Para essa, transformamos a taxa de crescimento do raio em taxa de crescimento do número de células, cujos resultados novamente concordaram muito bem com os dados experimentais. A dimensão fractal dos agregados esteve entre 1; 12 df 1; 21, e concordou com os dados da literatura. Novos resultados foram produzidos: i) O raio médio como uma função do número de células nos permitiu um ajuste do tipo Rc(t) = a[Nc(t) ? N~0]1=2 + R~0, mais geral que a comumente aceita relação Rc(t) = cNc(t)1=2; e ii) os tempos de espera no procedimento MCD se distribuem log-normalmente (ou Gaussianamente em alguns casos), diferentemente da distribuição Poissoniana frequêntemente assumida. A distribuição log-normal nos permitiu também conjecturar que um parâmetro , da relação ht(nT)i / n? T , possa caracterizar o crescimento monocamada de tumores devido à sua estreita abrangência 0; 69 0; 81. Nossos resultados nos permitiram concluir que diferentes condições de cultivo podem gerar diferentes respostas dos parâmetros, além disso, dois fenômenos podem caracterizar esse crescimento no âmbito mesoscópico: A competição por espaços livres e a cooperação entre as células. / Tumor growth has been calling attention of physicists and mathematicians for more than sixty years. However, cross-talking with biologists and the interplay between theory and experiment have emerged just recently. Phenomenological equations and computational simulations are still the common toolbox among all the models we know. Thus, in this work, we have studied the problem of monolayer tumor growth through the experimental, theoretical and computational approaches, enhancing the interaction between theory and experiment. We cultivate HeLa (human cervical carcinoma), HCT-15 (human colorectal adenocarcinoma), NIH-HN-13 (human squamous cell carcinoma) and U-251 (human neuronal glioblastoma) cells, calculating the fractal dimension and the behavior of the mean radius with cell number, and analyzing the literature data from HT-29 (human colorectal adenocarcinoma) lineage. Then we modeled the growth rate of mean radius through a sigmoidal curve. The analytical solution of this equation allowed us to fit well the experimental data and the obtained parameters were used into dynamical Monte Carlo simulation. To do this, we transform the radius growth rate in number of cells growth rate, which again agreed with the experimental data. The fractal dimensions of the aggregates ranged from 1; 12 df 1; 21, and agree with the literature. New findings were produced: i) the mean radius as a function of the number of cells enabled us to adjust the function Rc(t) = a[Nc(t) ? N~0]1=2 + R~0, differently from widely accepted relation Rc(t) = cNc(t)1=2; and ii) the waiting times in the MCD procedure are log-normally distributed (sometimes Gaussian), unlike the Poisson distribution often used. The lognormal distribution also allowed us to conjecture that a parameter , from the power law relation ht(nT)i / n? T , might caracterize the tumor monolayer growth due to its narrow range 0; 69 0; 81. Our findings led us to conclude that different culture conditions may produce different parameter responses, furthermore, two phenomenona can describe the growth in mesoscopic level: the competition for free space and the cooperation between cells.

O estudo do crescimento de tumores tem inspirado o aparecimento de diversos modelos, que visam aproximar às características reais das interações entre as células da população tumoral. Do ponto de vista biológico, destacam-se como modelos as culturas de células in vitro. Elas são úteis por reduzir a complexidade intrínseca da massa tumoral real. Do ponto de vista matemático e físico, destacam-se a procura por comportamentos universais, e o uso de simulação numérica para a solução dos modelos propostos. Essas abordagens são úteis por ressaltar as características importantes do crescimento de tumores, promover um intercâmbio de conhecimento com áreas aparentemente distintas, tais como: crescimento de cristais, reações bioquímicas e epidemiologia, além de gerar soluções que seriam difíceis de obter analiticamente. Neste trabalho, abordamos o crescimento de tumores a nível mesoscópico (escala celular), por meio de: (i) experimentos de cultura de células in vitro, de onde obtivemos dados da evolução temporal do raio das colônias e os tempos de duplicação característicos; (ii) modelagem matemática, em que propomos uma taxa de crescimento em função do tempo com forma sigmoidal, e uma equação fenomenológica para a evolução temporal dos agregados; e (iii) descrição estocástica, em que apresentamos um conjunto de regras para a interação entre os elementos da população tumoral e simulamos a dinâmica temporal usando o método Monte Carlo dinâmico (DMC), obtendo as curvas de crescimento e as distribuições de tempo das colônias. Além disso, desenvolvemos uma generalização para o método DMC, em que é possível incluir eventos simultâneos. Essa generalização foi aplicada ao modelo matemático de Dawson e Hillen para uma população de células sujeita a radioterapia, gerando as distribuições de tempos de extinção, e a probabilidade de controle tumoral (TCP). A abordagem ao crescimento de tumores nos permitiu comparar o experimento, a modelagem matemática, e a descrição estocástica com sucesso, e mostramos que a dinâmica de crescimento de vários tipos de células possui o mesmo formato sigmoidal, sugerindo uma universalidade para as taxas de crescimento de células aderentes. Comparamos os tempos de duplicação obtidos experimentalmente e por meio de DMC, e oferecemos alguns insights matemáticos a respeito dos tempos de duplicação obtidos através de DMC. Concluímos que o desenvolvimento teórico-experimental, ao nível mesoscópico, foi capaz de gerar novas ideias sobre mecanismos de crescimento tumorais de células aderentes, e novas perspectivas para abordagem do problema de crescimento de tumores. / The study of tumor growth has inspired the emergence of several models, aiming to reproduce actual patterns of interactions between cells in the tumor population. From the biological point of view, in vitro cell culture models stand out. They are useful to reduce the intrinsic complexity of the actual tumor mass. From the mathematical and physical point of view, stand out the search for universal behaviors and the use of numerical simulation to solve proposed models. These approaches are useful to point out important characteristics of the problem, promoting a knowledge exchange with seemingly distinct areas such as: crystal growth, biochemical reactions and epidemiology, and generating solutions that could be difficult to obtain analytically. In this thesis we approach the tumor growth problem at the mesoscopic level (cellular scale), by means of: (i) cell culture experiments in vitro, generating data for the radius temporal evolution and characteristic doubling times for several colonies; (ii) mathematical modeling, in which we propose a sigmoidal growth rate and time evolution of aggregates by a phenomenological equation; and (iii) stochastic description, where we present a set of rules to describe the interactions among the elements in the tumor population, and we simulate them using the dynamical Monte Carlo (DMC) method, obtaining the growth curves and the time distributions. In addition, we have developed a generalization of the DMC method, making the simulation of simultaneous events to be possible. Such generalization was applied to mathematical model of Dawson and Hillen for a population of cells subjected to radiotherapy, and it was possible to obtain the distributions of extinction times and Tumor Control Probability (TCP). Our approach allowed us to compare tumor growth in experiment with theory, and good agreement were found in our results. Furthermore, we have shown that sigmoidal growth rate appears in several cell lineages, suggesting universal-like behavior. We have compared the doubling times obtained in the experiments and in the DMC simulations, and we show some mathematical insights about the doubling times. We concluded that our theoretical and experimental approach, at the mesoscopic level, could generate new ideas on tumor growth mechanisms of adherent cells and new perspectives in the study of the tumor growth.